新闻中心

News Center

BCS2022技术峰会:百度马杰谈元宇宙如何助力构建AI安全新生态
发布日期:2022-07-21 作者:北京网络安全大会

  7月21日,2022北京网络安全大会技术峰会上,百度副总裁马杰详细介绍了在AI安全领域的一些实践和研究,分享了他在元宇宙与AI结合方面的新思考。


  马杰表示,伴随数字经济智能经济的发展,以及国际政治经济格局的变化,在全球范围内网络安全形势正在发生一系列深刻的变革,其中以AI为代表的新技术、新应用和新场景快速崛起。一方面,AI与实体经济进一步融合,带给社会很多的便利,而另一方面,AI也刷新了对网络安全的认知、重构了原有的网络安全体系。多方协同共治,已成为共识。

  如何构建一个更为安全的智能时代?马杰提到,两年前百度提出了Security、Safety、Privacy的AI安全三大研究维度,并以此为基础,围绕算力算法和数据,进一步把AI安全能力,覆盖到了各种应用场景,由此构建起了一整套体系化的安全框架。例如AI自主框架安全模型攻击检测、数据安全能力以及有隐私保护的机器学习能力等。

  面对新变化与新技术,马杰认为,对于安全来说,最大的挑战永远不是该如何去解决问题,而是如何才能更快的更准确的发现问题。相比较之下,人的行为环境变化很大,真实世界中有太多风险无法预判,因此想要穷尽所有的可能不现实,因此提前应对潜在的安全问题成为了每一个安全人必须考虑的问题。

  近期,百度在尝试有关自动驾驶安全研究项目——铁马冰河,此项目是一个聚焦于沉浸式高拟真场景,富含AI对抗的元宇宙化安全测试平台,在这个平台上我们构建了大量高拟真的测试场景去捕捉自动驾驶产品感知环节的漏洞,将Fuzzing模糊测试的理念与元宇宙相结合,并进行视觉鲁棒性Al安全对抗性的指标评测,通过虚实结合的仿真测试为自动驾驶安全保驾护航。

  目前项目已经可以支持三个方向的自动驾驶安全测评方案,并由此构建了一个从整车在环、硬件在环,再到软件在环的全链条测试验证体系。

  他分享到,百度为应对用AI、用云、用元宇宙等的安全问题,构建出了一个数字孪生世界,在平行空间内测试、用最大限度去发现想不到和想得到的安全隐患。

  “国产元宇宙产品希壤,则是百度打造出的平行于现实世界的第二时空。”马杰分享到,今年6月,铁马冰河已上线希壤。未来,希壤将不仅创造出近乎仿真的虚拟环境,也将打通一系列数据,并与平行的元宇宙大世界产生互动,未来,个人也将有机会作为真人NPC参加到车辆测试中。此外,在仿真环境的反复测试,也将能够给出更多真实的测试反馈,并纳入到未来铁马冰的设计之中。

  马杰提到,处在一个新与旧相互叠加的时代,一方面AI本身的安全性挑战超出了传统的安全边界与框架的认知范畴,同时新升级的问题也在同时出现,因此,将AI与Meta等新技术的结合将为未来安全能力的研究注入新动能。与此同时,百度也在利用Fuzzing进行模糊测试,并将Fuzzing与Meta结合,以便未来挖掘出它的更大价值。

  目前,百度先后多次将开源技术、平台等捐献给了开源基金会,希望基于这些开放的研究、开放的代码,可以更好地与合作伙伴一起共同推动产学研各界合作,从而构建起来一个更为开放的生态,未来能够更好地服务于国家网络安全建设,履行企业应由的社会责任。

  据了解,百度是目前全球为数不多可以提供AI芯片AI软件架构和AI应用等全栈AI技术的企业之一。今年的第一季度百度的核心研发费用达到了51.34亿元,这占到核心收入的比例已连续六个季度超过了20%,研发投入强度位居中国大型科技互联网公司的前列。


____________________________

相关新闻
第六届“蓝帽杯”全国大学生网络安全技能大赛决赛获奖名单公布
第六届“蓝帽杯”全国大学生网络安全技能大赛决赛获奖名单公布
9月21日,第六届“蓝帽杯”全国大学生网络安全技能大赛总决赛圆满结束。长达8小时的赛程中,来自全国各高校的89支战队、265名选手,在24轮次攻防回合比赛中,累计完成了1600余次攻防。经过裁判组的审核,现公布最终获奖名单。一、决赛战队获奖名单二、指导教师获奖名单点击“阅读原文”,登陆大赛官网,了解更多详情,颁奖典礼时间将另行通知第六届蓝帽杯组委会2022年10月10日.

2022-10-10

实战场景锤炼网安精兵 第六届“蓝帽杯”总决赛圆满结束
实战场景锤炼网安精兵 第六届“蓝帽杯”总决赛圆满结束
9月21日,第六届“蓝帽杯”全国大学生网络安全技能大赛总决赛圆满结束。长达8小时的赛程中,来自全国各高校的89支战队、265名选手,在24轮次攻防回合比赛中,累计完成了1600余次攻防。待裁判组审核WP(解题思路)后,将公布最终获奖名单。上午9时,中国人民公安大学团委副书记郑重宣布比赛开始。总决赛首次采取线上AWDP赛制,综合考核参赛战队的漏洞发现、漏洞挖掘、漏洞修复以及即时策略的能力。成功利用漏.

2022-09-22

第六届“蓝帽杯”决赛将于9月21日举办,教师最佳影响力奖申报开启!
第六届“蓝帽杯”决赛将于9月21日举办,教师最佳影响力奖申报开启!
各参赛单位:第六届“蓝帽杯”全国大学生网络安全技能大赛决赛将于9月21日9:00-17:00以线上方式举行具体安排如下:1大赛宗旨以习近平新时代中国特色社会主义思想为指导,全面贯彻落实习近平总书记关于国家安全、网络安全、公安工作、教育工作、人才工作等系列重要论述精神,深入推进落实网络强国战略重大决策部署,开辟网络安全高校实践教学新途径,促进网络安全教学单位与实战部门之间的合作共建,持续为培养、选拔.

2022-09-07

距离大会开幕

2022.5.24-5.26

北京·国家会议中心