上海WTO事务咨询中心

全球贸易投资研究咨询中心
世界产业运行研究咨询中心
首页>WTO动态研究>欧盟最新人工智能法规给美国敲响了警钟

欧盟最新人工智能法规给美国敲响了警钟

21-06-09

2021 年 5 月18 日,美国战略与国际问题研究中心(CSIS)专家 Meredith Broadbent 撰文,评价了欧盟最新的人工智能法规,认为美国在人工智能立法上落后于欧盟、中国等主要竞争对手,给美国敲响了警钟。以下为该文译文,供参考。

虽然拜登总统明确表示想要与欧洲和亚洲合作,以“维护我们共同的价值观,促进共同繁荣”,但在推动达成互惠的贸易协定上拜登总统并没有采取什么有效的举措。这点很糟糕。同时,拜登政府还应该采取一些战略措施,支持美国的就业和创新,并得到美国国会两党的支持,包括拜登总统反复强调的加强与美国盟友的紧密合作。CSIS 最近的两份研究报告(一份是关于《欧盟数字服务法》和《数字市场法》,另一份是关于人工智能的研究报告)建议拜登政府把重心放在高科技监管的跨大西洋合作上,此举有利于美国科技企业在欧洲的竞争力以及与中国的战略竞争。

欧盟委员会 4 月 21 日出台了一份关于人工智能监管框架的提议,这是欧盟人工智能监管领域的一个分水岭,标志着美国和欧盟就人工智能监管开展合作对话的好时机。

人工智能技术可以改善健康水平、减少碳排放、增加农作物的可持续产量、促进经济增长。但是人工智能也有负面影响,例如可以用来压制、监控、侵犯隐私、制度性的偏见等。正因为风险和机遇并存,欧盟和美国需要通力协作,思考如何更好地对人工智能技术及其应用加以有效监管。政策制定者们应该颁布合适的法规,在保护公众免于人工智能伤害的同时,确保不会泯灭创新。而相关挑战则在于,如何制定干预程度低、适应性强的人工智能法规,促进而不是阻碍积极创新。

人工智能技术是美国与中国开展地缘政治竞争以“赢得 21 世纪”的主战场。在应对中国问题上,美国与欧盟拥有共同的利益。中国试图输出其具有侵略性的数据治理和人工智能法规模式,包括由国家控制所有信息和通信,严格的监控,数据本地化,以及其他保护主义和专制措施。为此,美国与欧盟必须就人工智能达成一致、民主的监管原则,并在亚太地区的贸易伙伴中加以推广。而中国正在大力实施“一带一路”战略,通过“区域全面经济伙伴关系协定”(RCEP)输出中国模式,对“全面与进步跨太平洋伙伴关系协定”(CPTPP)构成挑战。如果美国与欧盟能加以合作,达成一项协调一致的替代方案,就能促进创新、经济增长和个人自由。

欧盟的人工智能法规:为将来设定规则

在欧盟颁布《通用数据保护条例》(GDPR)后的五年以及欧盟关于人工智能框架后的三年,在今年的 4 月 21 日,欧盟委员会向欧洲议会提交了一项名为《人工智能法》(AIA)的提议草案。虽然在欧洲议会里还要就此法经历数年的讨论,但该文件本身标志着欧盟人工智能治理的一个里程碑。

制定《人工智能法》是一项相当耗时的工程,利益相关者经历了1200 多份调查问卷以及133 份书面评论,并且各界人士都表达了意见建议。欧盟委员会在不同程度上接受了利益相关者的部分意见,但有些意见则被搁置一旁。

鉴于过去的相关法规十分繁琐、难以实施,并且部分阻碍了欧洲数字初创企业的发展,《人工智能法》采取了一种基于风险评估的方式,即只适用于被标注为“高风险”的人工智能系统。此外,完全禁止也仅适用于一小部分特定的人工智能应用,即“与欧盟价值观不相符的人工智能应用”,包括出于执法目的、在公共空间开展的实时、远程生物识别。即便在此类情形下,也存在少部分例外。虽然提议拒绝了数字权益人士关于禁止所有面部识别技术的要求,但提议的确将“对自然人的实时、远程生物识别”归类为“高风险”应用。利益相关者最关心的一个问题就是对“高风险”人工智能应用的定义缺少清晰度。提议指出,判断一项人工智能应用是否属于“高风险”有两条累积标准:第一,其所属部门是否预期会发生重大风险;第二,使用人工智能应用的方式是否会产生重大风险。此外,还存在一些“例外情形”,将一些人工智能应用定性为“高风险”。利益相关者对所谓“高风险”部门和应用定义的模糊性表示担忧,对《人工智能法》到底是否适用于企业带来不缺定性。此举会泯灭创新,因为企业家和投资者会转向其他市场,以避免《人工智能法》带来的不确定性和额外的风险。

为此,欧盟委员会建立了一套确定人工智能应用到底是否属于“高风险” 的框架,包括一致性评估、审计要求、上市后监督等。首先,任何经过欧盟一致性评估的人工智能系统(要么是一项产品,要么是产品的安全部件,如金融服务、医疗设备、器械、玩具等产品)都被认为是“高风险”;其次,提议还单独罗列出八个“具有基本权利影响”的部门,这些部门里的人工智能系统都会自动被视为“高风险”。这八个部门为:

(1)自然人的生物识别和分类;

(2)关键基础设施的管理和运行;

(3)教育和职业培训;

(4)就业、工人管理和自主创业;

(5)私人和公共服务以及福利的获取和享受;

(6)执法;

(7)移民、政治庇护以及边境管控;

(8)司法和民主进程的管理。

提议第 71 条指示欧盟成员国建立一套处罚和行政罚款的规则,对于违反法规的公司,对其最高处以上一财年总营业额 6% 的罚款。为确保法规能有效适用于新兴人工智能应用,提议还授权欧盟委员会在不通过立法程序的情况下,只需符合提议第 7 条中的特定标准和风险评估方式,扩大清单中“高风险”的范围。

提议还规范了数据治理和数据管理,规定用于培训、验证和测试的数据集必须确保关联性、代表性、准确性和完整性。此外,提议还解决了人工智能系统中的歧视性问题,要求高风险人工智能系统提供者描述使用人工智能系统的人或人群。用于培训、验证和测试的数据集必须考虑到“使用人工智能系统时的特定地理、行为、功能环境的特征、特点和要素”。

对于美国观察者而言,很难想象上述这句话带来的实际影响。此外,提议中关于存储个人数据的要求是否与 GDPR 中尽可能地删除数据以保护用户的要求相冲突,这一点也并未明确。为此,提议第 10.5 条规定:

高风险人工智能系统的提供者可以处理 GDPR 中提及的特殊类型的个人数据,只要采取了保护自然人基本权利和自由的措施,包括对先进安全和隐私保护措施使用的技术限制,如假名(GDPR 中关于数据匿名使用的一个专业术语)、加密等技术。

当监管者提出要求时,高风险应用的提供者需要公开大量的数据输入输出的记录,但是,数据公开的具体情形却没有明确说明。上述这些是美国和欧盟的监管者可以加强合作的领域,确保人工智能法规能达到预期效果。

除了《人工智能法》,欧盟还有三项法规,分别是 2020 年 11 月 24 日颁布的《数字治理法》(DGA)、2020 年 12 月 15 日颁布的《数字市场法》和《数字服务法》,这些法规充分展示了欧盟数字监管版图的扩张以及欧盟的“数字主权”,一旦实施生效,将会对在欧洲市场的美国数字企业带来根本变化。

欧盟委员会旨在利用欧洲庞大的市场,对其他国家和市场的人工智能法规施加影响。随着 GDPR 的域外适用取得成功,人们可以清晰地看到《人工智能法》等法规产生的下一个“布鲁塞尔效应”。

美国的人工智能策略:是否要与欧盟趋同?

一方面,欧盟正迅速采取务实有效的举措,制定具体的数据、数字服务和人工智能法规,而另一方面,美国的立法进程却进展缓慢,并呈现出碎片式的特点。美国的各政府机构,如白宫科技政策办公室、国家标准与技术研究院、国防部创新委员会等,正就人工智能的监管框架达成立场和原则。美国联邦贸易委员会去年发布了一份指南,强调人工智能使用的透明度、可解释性和公平性。今年 4 月,联邦贸易委员会再次公布了一份指南,警告美国企业警惕带有偏见的、歧视性的、欺骗性的、不公平的人工智能算法。美国人工智能国家安全委员会于今年 3 月发布一份研究报告,呼吁在美国联邦层面制定全面统一的国家人工智能战略。

2020 年 12 月,作为全新跨大西洋议程的一部分,欧盟领导人建议成立“欧美贸易与技术委员会”,就加强欧美法规和标准的合作开展对话。迄今为止拜登政府还没有正式回复欧盟的提议,但可以预期的是今年 6 月欧美双方领导人会晤时有望产出结果。

在中美贸易战期间,美国国会在立法上毫无建树,但可喜的是,美国国会两党目前正大力推进针对中国的立法。其中,《战略竞争法》指示美国政府积极介入与中国的竞争,扩大美国在全球和国际舞台上的影响力。该法的一个主要目标是,“确保美国在关键和新兴技术(如下一代通信、人工智能、量子计算、半导体、生物技术等)上的创新领先优势”。为此,美国的盟友需要与美国一起制定全球规则、准则和标准,以应对所谓的“数字独裁主义”和“用于监控、压制、操纵人口的信息和通信技术产品与服务的扩张”。该法案清楚地表明,美国国会越来越认识到“与美国盟友协调技术治理体系”在经济和安全上的战略重要性,在面对中国的竞争时维持美国的国际领导力。

美国国家安全顾问杰克• 沙利文(Jake Sullivan)在推特上发文道:“我们将与盟友一起培育可信赖的人工智能体系,体现我们共同的价值观,承诺保护全体公民的权利和尊严。”沙利文表示,美国对欧盟人工智能草案持欢迎态度。欧盟和美国的人工智能监管者可以积极开展跨大西洋讨论与合作, 形成具体的一致意见。

达成一致意见并非易事。随着欧盟的数字法规建设滚滚向前,美国应该时刻保持警醒,扪心自问到底自己还能坐以待毙坚持多久,放任欧盟成为人工智能领域标准制定的全球领先者。特别是对于人工智能而言,坐以待毙的结果是,美国的技术企业和用户强烈地感受到,欧盟和中国无节制地输出其人工智能监管和治理模式。因此,美国政府和国会应认识到与美国盟友就人工智能安全加强紧密合作的重要性。美国国会两党应就应对中国问题达成一致,让美国成为更好的人工智能监管框架的全球塑造者,让美国的先进技术企业在欧洲甚至全球更富竞争力。