上海市科学学研究所今天发布《全球人工智能治理年度观察2019》英文版。该报告是全球首份由全球业内顶级专家共同参与撰写的人工智能治理报告，也是首份由我国智库发起全球参与的人工智能治理报告。基于对各位专家意见的综合判断，2019年之后的未来几年，将会是全球人工智能治理体系形成的关键期。

　　

　　全球政、产、学、研界具有话语权的50位专家参与撰稿，包括清华大学战略与安全研究中心主任傅莹、图灵奖获得者John Hopcroft、诺贝尔和平奖获得者Irakli Beridze、欧洲议会议员Eva Kaili、AAAI2021主席杨强和AAAI2020主席Francesca Rossi等人。报告力求针对人工智能治理这一全球问题，汇聚全球作者、全球编辑的智慧，呈现给全球读者，为推进全球合作贡献力量。

　　

　　牵头该报告的上海市科学学研究所团队成员李辉介绍，基于专家对2019年全球人工智能治理总体形势的判断，报告认为当前全球人工智能治理体系正处于成型的关键时期，尤其表现出五个方面的特点：

　　

　　

　“第一个全球化，也就是全球所有的重要组织都在做，都在发AI自己的准则；第二个是安全化，安全问题已经跟个人生命、国家安全息息相关了。第三个是操作化，不能象过去那样只发宣言了，已经出台法律了。还有以前我们老说政府要出台规则，或者一些行业协会出台规则，或国际组织，但是现在一些市场、一些企业他们开始研究如何来解决这些问题；最后一个是建制化，建立了一些新的研究机构。”

　　

　　报告认为，2019年全球人工智能治理的进展，相较于前几年全球各项进展既有延续性也有突破性，从政府的全球战略角度来说，2019年度有三方面进展尤其值得关注：是经济合作组织（OECD）人工智能原则发布并影响广泛；人脸识别等专门法发布，人工智能治理进入“软法”向“硬法”过渡的新阶段；企业更主动参与并发挥作用，人工智能治理从政府主导向“政府＋市场”主导转型。

　　

　　科学学所相关负责人表示，技术的发展总是超乎想象，更准确地预测人工智能的未来是不可能的。虽然人工智能众多的应用场景逐步成熟，但是研究人员对于人工智能的技术风险还缺少明确的防控措施。由此，治理议题更聚焦安全问题，是发展必然。在行业内部，2019年最引人注目的相关讨论是关于负责任的开放代码规范。OpenAI研发了语言模型GPT-2，但推迟发布，理由是它有能力进行阅读理解 、机器翻译、问题解答，可能会导致假新闻的爆发。此外，人工智能系统自身的安全和人工智能应用带来的安全问题已成为安全领域讨论的重要话题。

　　

　　报告同时认为，企业在参与人工智能治理上正凸显其作为，以人工智能技术来治理人工智能伦理问题，是未来的一条重要的发展路径。比如，此前，谷歌发布了一个数据集来帮助检测合成声音，Facebook、Partnership AI和其他组织发起了“深度造假”视频检测比赛。谷歌也曾经成立过伦理委员会，试图对企业自我监察机制做出尝试。

　　

　　另据了解，上海国家新一代人工智能创新发展试验区重点布局了人工智能治理工作，在科技部和上海市科委指导下，上海市科学学研究所承担了试验区专家委员会秘书处工作，在2019世界人工智能大会举办了“人工智能治理论坛”，致力于打造具有全球影响力的人工智能治理交流合作平台，2020世界人工智能大会治理论坛正在筹备中。

 

　　本文刊登于《话匣子》APP