文汇报：当前全球AI治理体系正处于成型关键期
发布时间：2020-05-06 发布来源：上海市科学学研究所
今天，上海市科学学研究所发布《全球人工智能治理年度观察2019》英文版。
该报告是全球首份由全球业内顶级专家共同参与撰写的人工智能治理报告，也是首份由我国智库发起、全球参与的人工智能治理报告。清华大学战略与安全研究中心主任傅莹、图灵奖获得者John Hopcroft、欧洲议会议员Eva Kaili、AAAI2021主席杨强和AAAI2020主席Francesca Rossi等50位（44组）专家撰稿参与。
基于专家对2019年全球人工智能治理总体形势的判断，报告认为，当前全球人工智能治理体系正处于成型的关键时期，尤其表现出全球化、安全化、市场化、建制化、操作化五大显著特征。
同时，相较于前几年，2019年全球人工智能治理各项进展既有延续性也有突破性，从政府的全球战略角度来看，OECD人工智能原则发布并影响广泛、人工智能治理进入“软法”向“硬法”过渡的新阶段、人工智能治理从政府主导向“政府+市场”主导转型三方面进展和趋势值得关注。
2019年全球人工智能治理呈现“五大显著特征”
人工智能治理作为一个新的全球性治理议题，已成为全球治理体系的重要组成部分。基于对各位专家意见的综合判断，2019年之后的未来几年，将会是全球人工智能治理体系形成的关键期。
这从2019年全球人工智能治理已经呈现的五大特点可以看出端倪。
1、治理主体全面到位，重要国际组织和国家地区政府持续发布准则。
2019年，除了联合国组织的相关活动，经济合作组织（OECD）、二十国集团（G20）等国际组织纷纷将人工智能治理议题作为重要议题。
2019年欧盟委员会人工智能高级专家组发布了两份文件：《人工智能伦理指南》和《人工智能政策与投资建议》，为欧洲的人工智能治理勾勒了一个全面的蓝图。
国际上也广泛关注中国科技部和美国国防部在2019年发布的人工智能伦理指南。新加坡2019年1月推出的人工智能治理框架也颇有影响力。
2、治理议题向安全问题转移，安全问题逐步成为行业内外关注焦点。
在行业内部，2019年最引人注目的相关讨论是关于负责任的开放代码规范。另外，人工智能系统自身的安全和人工智能应用带来的安全问题已成为安全领域讨论的重要话题。
3、治理规则的法律效力加强，“硬法”逐渐增多。
美国加利福尼亚州要求把所有试图影响加州居民投票或购买行为的自动在线账户公开标识为机器人；旧金山等地出台法律禁止人脸识别应用，对当前比较普遍的人脸识别技术进行了直接的规制。
4、治理手段市场化，企业成为越来越重要的治理主体。
谷歌发布了一个数据集来帮助检测合成声音，Facebook、Partnership AI和其他组织发起了“深度造假”视频检测比赛。谷歌也曾经成立过伦理委员会，试图对企业自我监察机制做出尝试。
IEEE（电气和电子工程师协会）商业委员会将在2020年第一季度发布第一份题为《对企业使用人工智能的呼吁》的倡议，进一步强调企业在人工智能治理中的主体作用。
5、治理机构建制化，政府内专门性工作机构和学术界专业性研究机构增多。
为应对人工智能治理问题，一些国家政府建立了相应的专业部门，如英国在2019年开始运营数据伦理与创新中心，对算法的应用进行管理。2019年还有许多专业性的人工智能治理研究机构成立，如多伦多大学的施瓦茨·赖斯曼技术与社会研究所、华盛顿特区的安全与新兴技术中心等。
2019年全球人工智能治理取得“三大主要进展”
2019年全球人工智能治理的进展，相较于前几年全球各项进展既有延续性也有突破性。从政府的全球战略角度来说，2019年度有三方面进展尤其值得关注。
1.、OECD人工智能原则发布并影响广泛
从全世界范围来看，作为政府间组织的OECD在2019年5月22日发布的《经合组织人工智能原则》。所有三十六个OECD成员国以及六个非成员国都签署了该原则，欧盟委员会也对该原则表示支持。2019年6月，二十国集团（G20）会议上，中国、俄罗斯等与会国也对这一原则给予了认可。
2019年，欧盟还发布的可信赖人工智能伦理原则引发了广泛关注，但是该规则主要适用于欧盟辖区。
2. 人脸识别等专门法发布，人工智能治理进入“软法”向“硬法”过渡的新阶段
2019年，一些国家和地区针对机器人行为标注、人脸识别禁止等出台了法律和硬性规定。
3. 企业更主动参与并发挥作用，人工智能治理从政府主导向“政府+市场”主导转型
在过去几年，政府是发布人工智能治理规则的主体，企业技术创新和科学家的研究是被动的治理对象。但是从最新的发展趋势来看，企业逐渐从被动接受治理规则，到主动谋求制定规则。
另外值得关注的是，企业通过技术来监管视频造假、语音合成，已经形成了一个专门的市场领域，市场力量增加了伦理治理的可操作性。以人工智能技术来治理人工智能伦理问题，是未来的一条重要发展路径。
本文刊登于2020年4月30日《文汇报》，作者许琦敏
