新闻中心

News Center

BCS 2023|方滨兴:模型加工场实现隐私保护与数据要素流通
发布日期:2023-07-24 作者:北京网络安全大会

    7月6日,BCS2023北京网络安全大会在北京国家会议中心开幕,中国工程院院士、中国电子信息产业集团首席科学家、鹏城实验室方向责任院士方滨兴发表了“模型加工场:一种支持隐私保护的数据使用权交易方法”的主题演讲。

    他表示,数据需要流通才能发挥最大价值,但隐私保护成为横亘在企业面前的大难题,模型加工场基于分享价值不分享数据的关键技术有望解决这一问题。


    图中国工程院院士、中国电子信息产业集团首席科学家、鹏城实验室方向责任院士方滨兴

    方滨兴说,在数据流通中,数据提供方与消费方通过数据服务提供方进行交易,共同形成了数据要素流通交易市场。数据服务提供者要对数据提供安全技术保护,包括数据协商、访问控制、使用控制等。

    他指出,目前国际上已经有一些数据流通交易隐私保护实践。比如数据厂商Snowflake通过数据不动程序动,实现了数据提供方实时安全地共享数据获取数据收益。欧盟国际数据空间(IDS)基于数据所有权与使用权分离模式,已在多个行业开展实践探索,累计超过50个场景案例。微软可信研究环境(TRE)使用安全输出机制,让研究人员在高安全控制和数据保护下访问和使用敏感数据。

    基于国际研究和工程实践,方滨兴提出兼顾隐私保护与数据要素流通的模型加工场技术。该技术包含五大要素:核心方法是数据不动程序动,关键技术是分享价值不分享数据,辅助手段是数据可用不可见,应用模式是保留所有权释放使用权,计算环境是算力网互联形成统一数据域。

    数据不动程序动,是指采取网络靶场技术,构建一个可信计算平台,使得外部程序可以在该平台上进行运行。隐私数据可以以裸数据的形式放在该平台中,由摆渡过来的外部程序利用这些数据来进行模型加工,但人员不能进入该“模型加工场”查看调阅数据。管理员受“云匣子”审计系统控制,防止擅自拖走数据。

    分享价值不分享数据,是指采取信息过滤技术,构建一个用于防止原始数据被拖走的“防水堡”,确保外部程序在可信计算平台中计算之后,向外输出的只能是参数之类的价值信息,而不能是微观的原始数据。由此,确保该可信计算平台仅仅以模型加工场的形式提供服务,而不会将隐私信息以各种形式向外夹带出去。

    数据可用不可见,是指可信计算平台在支持用户数据调试期间对外提供替代数据供使用者测试并调试使用。生成数据可以是置换、生成或挑选的数据。使用者根据所提供的经过变换的样本数据进行潜在价值的挖掘分析,以便确定从平台数据中能够生成什么样的模型,进而判断是否要进入模型加工场进行数据挖掘。

    保留所有权释放使用权,是指可信计算平台提供用户数据所有权管理模式,让数据所有者来决定数据是否可以被使用权。一是对数据进行加密,并通过属性加密的管理方式来出让使用权;二是通过远程控制模式,通过远程授权来放行对所属数据的访问。以此达到数据所有者只交易使用权,不交易所有权的目的。

    算力网互联形成统一数据域,是指当多个可信计算平台需要进行更大规模的数据处理或机器学习的时候,可通过算力网将各可信计算平台互连以构成一个统一数据域,数据可在统一域中流动。还可以假设各可信计算平台之间只能分享价值不能分享数据,从而采取联邦学习的模式,在各可信计算平台之间仅进行参数交换。

    方滨兴表示,鹏城实验室基于模型加工场技术,已经形成了鹏城AI靶场、鹏城算力网等基础设施,可有效提供支持隐私保护的数据使用权交易服务。鹏城实验室利用该平台多语言机器翻译研究领域进行实践,在保证参与科研机构特定语言独特语料数据所有权的前提下推动科研共享,得到了以中文为中心一带一路多语言机器翻译大模型,低资源语种翻译效果得到明显提升。

    方滨兴说,模型加工场技术在数据不动程序动、数据可用不可见、分享价值不分享数据理念的指导下,能在隐私保护前提下充分发挥数据最大价值,进而打造数据要素流通交易可信数据空间的中国范式。

    北京网络安全大会(BCS)是立足北京、辐射全球的世界级交流平台。数字安全高峰论坛暨2023年北京网络安全大会邀请到联合国副秘书长李军华,埃及最高网络安全委员会执行局主席艾哈迈德·阿卜杜勒·哈菲兹,CertiK联合创始人、哥伦比亚大学计算机系教授顾荣辉,新加坡管理大学计算与信息系统学院副院长朱飞达等海外政府官员和安全专家出席,与中国工程院院士方滨兴,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东,中国电子信息产业发展研究院院长、赛迪研究院院长张立,IDC中国区副总裁兼首席分析师武连峰,华为董事、质量流程IT总裁陶景文等知名国内专家学者,共同就关键信息基础设施保护、数字安全产业发展、AI安全对数字经济的影响等议题发表演讲并展开讨论。

相关新闻
重庆网络与数据安全产业大会软件供应链安全分会成功举办
重庆网络与数据安全产业大会软件供应链安全分会成功举办
7月24日,重庆网络与数据安全产业大会软件供应链安全分会在渝召开,会议由中共重庆市委网络安全和信息化委员会办公室指导,重庆璧山区人民政府、奇安信科技集团股份有限公司、中国信息通信研究院西部分院联合主办。本场软件供应链安全分会以“护航数字生态,安全从源头做起”为主题,邀请了高校、研究院所、安全机构等业界专家,共同研讨软件供应链安全行业发展趋势及产业生态建设,赋能数字经济产业转型升级。活动伊始,重庆市.

2023-07-25

重庆网络与数据安全产业大会数据安全分会顺利举行
重庆网络与数据安全产业大会数据安全分会顺利举行
7月24日,以“聚焦数据安全,推动数字经济行稳致远”为主题的重庆网络与数据安全产业大会数据安全分会顺利举行,来自政府、行业主管部门领导、行业专家、政企用户单位信息化部门负责人、安全厂商代表、高校和科研机构代表出席,共同探讨如何推动数字经济行稳致远。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在致辞时表示,网络安全是重庆的优势产业,去年的产业规模已经超过170亿元。奇安信一直高度重视企业在.

2023-07-25

重庆网络与数据安全产业大会网络与数据安全产业生态合作分会圆满落幕
重庆网络与数据安全产业大会网络与数据安全产业生态合作分会圆满落幕
7月24日,重庆网络与数据安全产业大会–网络与数据安全产业生态合作分会在重庆举行。活动以“加速集聚创新要素,赋能产业转型升级”为主题,邀请政府、投资人、智库以及多家网安创企等领导、专家,对网络安全形势、产业投资、人才战略等方面进行主题分享,共同研讨网络与数据安全行业发展趋势及产业生态建设,赋能产业转型升级。中共重庆市璧山区委副书记严兵在致辞时表示,重庆高度重视网络和数据安全,坚持产业与事业并重,璧.

2023-07-25

距离大会开幕

2024.06.05-06.06

北京·国家会议中心