新闻中心

News Center

以色列大学教授 Yoni Birman出席BCS2022:利用AI防范网络空间安全越来越重要
发布日期:2022-07-21 作者:北京网络安全大会

  7月21日,2022北京网络安全大会技术日系列活动开启。作为本次大会的第二个主题日活动,期间将举办技术峰会、长沙数字城市网络安全运营峰会、取证与涉网犯罪分论坛、BCS TALK虎符话安全等系列活动。在BCS2022技术峰会上,以色列赖希曼大学教授 Yoni Birman发表了《利用AI防范网络空间安全》主题演讲,分享了对于网络AI共存的看法和观点:利用AI防范网络空间安全需要加大科普和科研投入。


  Yoni Birman分享了网络AI共存周期包含三种不同的关系:第一种关系是利用AI加强网络防护;第二种是解决如何保护AI和机器学习管道,防止敌对攻击;第三种是利用AI满足防护需求,并防止AI攻击。

  Yoni Birman指出,增强网络防御AI技术已经十分普遍,且已应用于身份和访问管理、网络安全、数据保护等领域,并从三重关系入手进行了分析。

  其中,第一种关系是利用AI加强网络防护。首先利用付费的威胁情报服务收集由恶性样本和良性样本构成的数据语料库,并进行处理。同时训练模型并布署模型的位置,针对模型定义应用程序接口,最终建立模型维护流程。

  第二种关系是保护AI驱动型系统。更常用的说法是保护机器学习关系,防止敌对的机器学习。敌对机器学习这一概念相对较为简单:敌方的目标是让AI模型的行为偏离于模型最初设计的行为。在Yoni Birman 所展示的实例中,机器学习管线遭受敌对攻击后,模型会错误地将狗的图像归类为大象。发起敌对攻击的方法就是找到并利用机器学习管线的弱点;第三种是网络AI的概念。我们利用AI进行网络防御,网络AI可划分为三种不同的领域。第一个领域是利用AI增强传统的攻击;第二个是利用敌对机器学习来攻击AI驱动型网络防御系统;最后一个是合成内容生成方面的网络防御。

  那么如何保护自己,免受网络AI攻击呢?Yoni Birman表示防护方法可划分为两种类型,分别为通用方法和专用方法。通用方法大多专注于整体确保AI的可靠且安全的用途。其中涵盖道德和教育、研究和合作、以及政策和规则的制定和实施。最后,需要制定各种框架,确保AI安全且可信;专用方法用以检测和防止具体的侵犯性网络AI攻击向量。

  最后,针对网络AI防御问题,Yoni Birman 提出了两点建议:第一,对所有人进行科普,包括数据科学家、机器学习工程师、开发者以及你的员工和家人,让他们了解网络AI的各种危害以及常用的预防方法;第二,我们必须加大投资进行研究,不论学术机构还是企业机构都是如此。首先要设计出各种安全的AI开发框架,其次要开发并实施更具有针对性的方法,以追赶上侵犯性网络AI的进化步伐。

  目前,北京网络安全大会已经成功举办三届,是立足北京、辐射全球的世界级交流合作的平台。作为网络安全领域最具有影响力的活动之一,今年的大会从国家安全、社会安全、产业发展、前沿技术、人才培养等多维度出发,加强沟通,扩大共识,深化合作,积极维护数字世界的健康发展,着力构建和平、安全、开放、合作的网络空间命运共同体。

相关新闻
RSAC2023丨从RSAC2023看ChatGPT如何用于网络攻击
RSAC2023丨从RSAC2023看ChatGPT如何用于网络攻击
ChatGPT从诞生伊始就引起了网络安全界的高度关注:它是否能用于网络攻击或者防护?它的训练过程是否存在数据安全隐患?它本身是否会遭到网络攻击?目前对ChatGPT在网络安全领域的应用尚处于初级阶段,我们看看本届RSAC大会上专家如何解读ChatGPT在网络安全领域的应用。

2023-05-08

凝聚网安力量,助推产业发展——2023第八届安全创客汇专家研讨会在京成功举行
凝聚网安力量,助推产业发展——2023第八届安全创客汇专家研讨会在京成功举行
安全创客汇1月6日,由奇安信集团、北京网络安全大会(BCS)、全国网络信息安全创业投资服务联盟(筹)、奇安投资等机构联合主办的第八届安全创客汇举办2023年首次专家研讨会,回顾2022安全创客汇的亮点与问题,并针对2023安全创客汇的赛制形式、研判标准、奖项设置等内容进行专题研讨。安全创客汇评委会副主席、赛博英杰董事长、正奇学苑创办人谭晓生,安全创客汇评委会主任、奇安信集团副总裁陈华平,中电智慧基.

2023-01-07

2022中国计算机大会数据安全治理论坛成功举办
2022中国计算机大会数据安全治理论坛成功举办
数据安全治理论坛2022中国计算机大会(CNCC2022)12月8日,由中国计算机学会主办,CCF计算机安全专业委员会、奇安信集团承办的CNCC2022数据安全治理论坛在线上举行。论坛由CCF计算机安全专委会荣誉主任,公安部第一研究所、第三研究所原所长严明主持,邀请政府主管单位、科研院所、安全厂商、企业安全主管等嘉宾出席,围绕“开拓数据安全从体系化框架到建设实践之路”主题,聚焦数据安全现阶段的问题.

2022-12-09

距离大会开幕

2024.06.05-06.06

北京·国家会议中心