新闻中心

News Center

BCS2025|曾毅:人工智能可以兼得高水平的能力与安全
发布日期:2025-06-08 作者:北京网络安全大会


    “现在没有一个人工智能系统是绝对安全的。”6月5日上午,北京前瞻人工智能安全与治理研究院院长、联合国人工智能高层顾问机构专家曾毅在2025全球数字经济大会数字安全主论坛暨北京网络安全大会开幕峰会上发表主旨演讲时指出,诸如隐私侵犯、虚假信息等关键性、基础性人工智能安全风险依然存在。

    在曾毅看来,这主要是因为伴随人工智能技术的发展,大模型安全攻击方法的持续进化,人工智能安全趋势也随之复杂化。他以2020年至2025年的大模型安全攻击方法举例,2020年仅是简单提示注入等简单威胁,2023年已经出现多模态攻击,2024年出现智能对抗攻击,今年则出现了组合复杂攻击。

    “人工智能大模型能力的提升,其安全性并没有变得更高。”曾毅认为,基于灵御人工智能安全攻防平台对49种主流大模型的测试佐证了自己的观点。

    从对主流大模型的测试结果来看,有两个非常突出的现象。

    一是最新的大模型也没有带来更强大的安全防护能力。例如,今年春节后国内外发布的几个典型大模型,模型能力实现了跃迁,但安全风险防范并没有做得更好。

    二是国产人工智能大模型的安全性相对较好,但并非世界领先。接受测试的大模型的攻击成功率在0.7%-30%左右,其中国产大模型的攻击成功率相对偏低,表明安全性相对较好,但表现最好的模型(攻击成功率在5%左右)也没有做到全球领先。

    “但是人工智能可以兼得高水平的能力与安全,也就是鱼和熊掌是可以兼得的。”曾毅在演讲中对人工智能安全持相对乐观的看法,并不认为人工智能的安全与性能是相互掣肘的关系,现有的主流大模型的表现并不代表提升人工智能安全性是一道无解题。

    曾毅的乐观同样基于最新的研究测试结果。他向与会者透露,基于人工智能模型安全越狱解毒剂计算原理,通过引入越狱解读机的机制到不同的人工智能大模型中,对人工智能模型的能力在没有负面影响的情况下,模型安全性可以提升20%-40%,而且需要付出的计算能耗非常有限。

    “安全与治理是人工智能的核心能力,将加速人工智能稳健发展与应用。”在演讲最后,曾毅再次呼吁要重视人工智能的安全性,加强人工智能安全治理。

相关新闻
BCS2025|第三届保险数字安全论坛圆满落幕 热议新场景下的网络安全保险实践
BCS2025|第三届保险数字安全论坛圆满落幕 热议新场景下的网络安全保险实践
6月5日,由中国人寿财产保险股份有限公司、奇安信集团共同主办,厚锋科技(上海)有限公司协办的第三届保险数字安全论坛在国家会议中心成功举行。论坛以“智能引领·数据重塑”为主题,以“新技术、新场景、新业务下的网络安全保险实践”为核心议题,汇聚保险行业领袖、网络安全专家及相关机构代表,分享网络安全保险实践经验,探讨行业发展机遇。当前,大数据、人工智能等新技术深度融入保险业,在为行业注入活力的同时,也带来.

2025-06-20

金融业大语言模型系统安全参考架构研究项目启动
金融业大语言模型系统安全参考架构研究项目启动
北京,6月5日——在2025全球数字经济大会数字安全主论坛暨第七届北京网络安全大会(BCS)期间举办的第六届金融数字化转型与网络安全论坛上,一项具有里程碑意义的项目——“金融业大语言模型系统安全参考架构研究”正式宣告启动。项目启动仪式参与嘉宾:况文川、张学勇、罗纯、李浩宇、陈镔、罗若月、卢静、周道许、董青马、李璇(由左向右)在论坛现场,中国银行金融科技部副总经理陈镔、奇安信集团副总裁罗若月、中国联.

2025-06-19

“护航AI创新,释放要素价值”,BCS2025数据安全论坛召开
“护航AI创新,释放要素价值”,BCS2025数据安全论坛召开
在2025年北京网络安全大会上,数据安全论坛以“护航AI创新,释放要素价值——新一代数据安全建设创新”为主题召开,论坛汇聚了数据安全领域的顶尖专家、学者、领导和企业家共同参与:全国政协委员、全国工商联副主席、奇安信集团董事长齐向东、中国计算机学会计算机安全专委会主任严明、清华大学计算社会科学与国家治理实验室主任孟庆国、北京市政务服务和数据管理局数据标准与安全处处长刘国伟、中国信通院云大所开源和软件.

2025-06-18

距离大会开幕

2024.06.05-06.06

北京·国家会议中心