《电子技术应用》
您所在的位置:首页 > 人工智能 > 设计应用 > 生成式人工智能数据跨境流动的安全风险及治理范式
生成式人工智能数据跨境流动的安全风险及治理范式
网络安全与数据治理
姚迁,刘晋名,盛小宝
公安部第三研究所
摘要: 随着生成式人工智能技术的快速迭代,相关数据跨境流动的频率显著增加。面对生成式人工智能在数据跨境流动中呈现的多样化应用场景及其所伴随的安全风险,应当从技术防控、制度优化与国际合作三个维度来建构生成式人工智能数据跨境流动的安全风险治理范式,在保障生成式人工智能数据跨境流动安全性与规范性的基础上,实现数据经济发展与数据权利保护的平衡,推动全球数字经济的健康发展。
中图分类号:D922;TP399文献标识码:ADOI:10.19358/j.issn.2097-1788.2024.12.012
引用格式:姚迁,刘晋名,盛小宝. 生成式人工智能数据跨境流动的安全风险及治理范式[J].网络安全与数据治理,2024,43(12):80-87.
Security risks and governance paradigm for cross-border data flows of Generative AI
Yao Qian, Liu Jinming, Sheng Xiaobao
Third Research Institute of the Ministry of Public Security
Abstract: As Generative AI (GAI) technology rapidly evolves, the frequency of associated cross-border data flows has significantly increased. In light of the diverse application scenarios and the security risks accompanying these cross-border data movements, it is essential to establish a risk governance framework for GAI data flows that addresses these challenges through three key dimensions: technical safeguards, regulatory optimization, and international cooperation. By ensuring the security and compliance of cross-border data flows involving GAI, this framework aims to balance the advancement of the data economy with the protection of data rights, thereby fostering the healthy development of the global digital economy.
Key words : Generative AI; cross-border data flows; diverse scenarios; security risks

引言

生成式人工智能(Generative Artificial Intelligence,GAI)的发展高度依赖海量、多样化且实时更新的数据支持,而云计算、物联网等跨境数据流动技术又为其提供了基础支撑,数据跨境流动对GAI发展具有关键意义。早在20世纪90年代,Feigenbaum等学者就指出,跨境数据流动是人工智能(AI)发展的关键因素[1]。 近年来,以ChatGPT为代表的大语言模型推动GAI爆发式增长,进一步凸显了跨境数据在塑造全球AI格局中的作用。

国际社会已广泛认可跨境数据对AI发展的重要性。2023年9月18日,中欧在高层数字对话中讨论AI和数据跨境合作,美国媒体评论指出,数据跨境是避免全球“分层和巴尔干化”的关键因素[2]。美国高级研究员Nate Picarsic曾称:“我们必须清楚中国的诉求,捍卫自身利益……否则最终将处于一个由中国规范和标准主导的AI和数据环境中”[2]。这一论断揭示出AI跨境数据流动问题不仅关乎数字经济发展,更涉及国家安全和利益平衡。

国内规范体系对GAI与数据跨境的研究均取得了一定进展,但在GAI数据跨境这一交叉领域却仍缺乏针对性规则,现有规范体系尚未能充分回应GAI数据跨境流动产生的新兴法律挑战。2024年3月施行的《生成式人工智能服务安全基本要求》(以下简称《基本要求》)首次提出了GAI服务提供者需遵循的安全基本要求,但未涉及GAI数据跨境问题,且删除了先前引述个人信息跨境相关法规的条款,反映出在数据安全保障与GAI发展之间寻求平衡的复杂性。我国立法者在规范层面的迟疑,折射出了监管机构在应对 GAI技术应用以及伴随而来的跨境数据流动挑战时,面临的制度构建和实践困境。

2024年3月22日颁布的《促进和规范数据跨境流动规定》(以下简称《规定》)对我国数据出境合规监管框架进行了重大调整,《规定》虽增强了数据跨境流动的监管力度,但对GAI应用的数据跨境流动问题仍缺乏明确指导,这可能导致GAI服务提供者面临合规困境,阻碍其进行国际数据流动和合作。此外,上海陆续出台了数据跨境流动管理新规,并公布了首批20个场景的数据跨境流动分级分类清单[3],但这些新规未涵盖GAI场景,反映出国家与地方在新兴技术监管方面的协同不足,且各地监管规则碎片化可能导致政策执行不一致。

从实践层面,GAI数据跨境与现行法规的要求存在较大差距。GAI开发者和部署者在开展数据跨境尤其是个人信息跨境传输活动时,未严格遵循数据出境评估、标准合同、个人信息保护认证等要求,存在潜在风险[4]。同时,对于需跨境调用算法或算力的GAI开发者和部署者而言,数据跨境合规已成为制约其发展的痛点。这不仅影响GAI模型的训练效果,也增加了中小型GAI开发者和部署者获取云计算等商业服务的成本,不利于GAI产业的整体创新,最终可能削弱国家在GAI领域的国际竞争力。

综上所述,本文旨在通过深入分析GAI数据跨境实践的现状、风险及成因,并结合域外国家的立法及监管实践经验,提出可行的建议,为GAI产业的健康、有序、可持续发展提供有益参考。


本文详细内容请下载:

http://www.chinaaet.com/resource/share/2000006271


作者信息:

姚迁,刘晋名,盛小宝

(公安部第三研究所,上海200100)


Magazine.Subscription.jpg

此内容为AET网站原创,未经授权禁止转载。