人工智能会带来新的生产范式和生活方式，并对现有治理体系带来全新挑战。推动人工智能健康发展，需要建立全面系统的人工智能治理体系，形成既促进创新又能实现社会有序演进的动态平衡格局。人工智能治理面临的问题不是技术、产业和规则三者哪个先行的问题，而是如何“手挽手、齐步走”。中国可探索更具弹性的第三条治理路径。

　　

　　当前全球人工智能竞争从两个维度上展开，一是抢占技术和产业制高点，二是争夺人工智能治理规则。我国推动人工智能健康发展，需要通过精准有效的战略和政策同时在两个竞争维度上发力，并建立技术、产业和规则之间的良性互动机制。人工智能具有技术和社会双重属性，人工智能发展将重塑社会秩序，反过来，社会规则也影响着人工智能的发展。发展人工智能既需要遵循科技和产业发展规律，又需要尊重社会发展规律。人工智能治理面临的问题不是技术、产业和规则三者哪个先行的问题，而是如何“手挽手、齐步走”的问题。当前，全球亟待建立全面系统的人工智能治理体系，这种治理体系需要融合技术、产业和社会等各方面的因素，形成既能促进创新又能实现社会有序演进的新格局。

　　

　　1.全面智能化：新范式需要新治理

　　

　　国际金融危机后，新一轮科技革命和产业变革风起云涌，云计算、物联网、3D打印、大数据、工业4.0等新技术、新理念层出不穷，“第三次工业革命”的讨论尤在耳边，“第四次工业革命”又呼啸而至。总体分析，这些新理念一方面是把信息技术向制造等领域深入拓展，另一方面是积极寻求互联网之后信息化的新突破。这些努力最终都汇聚到为经济社会发展探寻智能化解决方案。人工智能事实上成了全球产业变革演进的集大成者，是人类信息化进程的新高峰，会像互联网一样向各个领域渗透，引发链式突破，推动经济社会各领域从数字化、网络化向智能化加速跃升。

　　

　　智能化是一种新的生产范式，其本质是在数字化和互联化基础上，对生产要素进行超大规模的自动化、精准化、个性化处理，指数化提升组织效率，创造崭新价值。在智能时代，数据将成为最重要的生产资料，而算法会成为提供服务和创造价值的中枢。作为新的价值创造方式，人工智能也是大数据、物联网等新产业、新经济的价值核心，将重构经济活动各环节，推动信息经济的新阶段——大规模自动化精准定制时代的到来，将推动劳动生产率再次大幅提升。

　　

　　人工智能有两个比较显著的特点：一是平台性，人工智能是一种通用技术平台，或者说是“技术域”，包含机器学习等一系列技术；二是进化性，机器的智能随着算法优化和数据的增加不断提升，而智能的提升又会促进经济社会快速迭代发展。分析人工智能，首先要研究其技术体系和趋势特征；其次，要跳出技术和产业，从经济社会等更广泛的视野来看待人工智能；第三，要用发展的政策促进和规范发展的人工智能。总而言之，新范式需要新治理。

　　

　　2.人工智能健康发展的三大挑战

　　

　　当前，为了推动人工智能发展，我们在战略判断、产业竞争和社会规则等几个方面要注意几大挑战。

　　

　　2.1　在战略判断方面要警惕对人工智能认识的泛化、片段化和固化

　　

　　对人工智能的认识不应过于泛化。对人工智能有广义和狭义两种认识。广义人工智能指包括自动化在内的泛智能化过程，狭义人工智能指以算法（深度学习等）+大数据+计算能力为代表的当前的主流技术路线。要紧紧抓住算法、大数据和计算能力等人工智能的核心环节，力争占领发展制高点。有人说，现在人工智能是个“大箩筐”，一听说要发展人工智能，过去一直支持的机器人、自动化、大数据、物联网等各种相关企业就都被重新包装成人工智能企业。事实上，人工智能与这些技术、产业紧密相关，但是也有其新的特征和规律，很大程度上抬升了经济社会的海平面，要认清楚在人工智能时代发展这些具体领域会有什么不同。

　　

　　对人工智能的布局不应片段化。我们既要防止对人工智能的认识过于泛化，又要在战略布局上有更整体系统的考虑，设计大智能战略。人工智能潜力的发挥在于广泛融合，美国、日本、英国都把人工智能和自动化等相结合，设计自己的发展战略，如美国白宫的一份报告主题为《人工智能、自动化和经济》，旨在把机器人、工业互联网等整合到人工智能发展战略中来。所以，发展人工智能，并不是说仅仅发展某几项智能技术，而是应该用智能化的视野来进行布局，加强技术供给和需求牵引的统筹安排。

　　

　　发展人工智能也应避免固化思维。人工智能日新月异，每一个技术细节的提升都有可能为经济社会带来“杠杆”效应，任何一家企业都有可能因为一个细微的创新而异军突起，占领市场。因此，企业必须始终保持创新状态，任何技术路线的错误或者技术研发的停滞，都有可能导致被超越。

　　

　　2.2　在产业发展方面要防止产业泡沫，充分认识 产业竞争的系统性

　　

　　要防止产业发展泡沫化。资本助推人工智能崛起，但资本热潮背后也有泡沫阴影。人工智能产业发展已经从科学家创业阶段进入应用落地阶段。从阿尔法围棋开始，人工智能产业受到了全社会和资本界的关注，获得了海量的资金投入。当前，应用落地与资本期待之间正在赛跑。人工智能创业公司除了安全监控、互联网娱乐等成熟领域外，迫切需要有更大规模的应用落地场景。如果大规模的应用落地速度减缓，靠技术估值的创业企业将受到较大影响。

　　

　　本土企业面临的是国际同行“产业生态”的竞争。人工智能企业都希望尽量快、尽量多地占领应用场景，以便使自己的平台尽快成为行业领域的通用平台，但是，竞争也极其激烈。中国企业面临着更大的压力，以芯片为例，大型国际芯片公司已经占领了绝大多数市场份额，对于应用端企业而言，改变芯片的供应厂商意味着难以使用原有芯片供应商的上下游支撑体系。所以应用端企业采用国产芯片的意愿不强，产业链不同环节的本土企业之间的合作生态还未建立。这使得中国创业企业在产品推广初期就面对外企的体系和生态壁垒，处于严重弱势地位。另外，国际主流芯片企业也在积极建立更加“开放”的生态体系，这种“开放”更进一步扩张了其市场份额。

　　

　　2.3　在社会规则方面要积极应对人工智能对现有秩序的重构

　　

　　从对经济和社会的影响进程来看，人工智能的影响近期是赋能、远期是重构。近期人工智能将赋能各行各业，提升效率和能级。远期人工智能将重构经济活动各环节，催生新技术、新产业、新模式、新业态，引发经济结构重大变革，深刻改变人类生产生活方式和思维模式，实现社会生产力的整体跃升。社会规则的重塑已成为人工智能顺利应用的前提。未来，就业结构与模式将发生变化，人机共生会成为主流工作模式，知识生产也将大规模自动化。现有法律与社会伦理将做出适应性调整，人和人的关系会发生重要变化。在生活更加便利的同时，新的安全风险也会增加。并且这种影响将呈现快速迭代特征，如果没有整体应对策略，政府治理难题可能会应接不暇。

　　

　　3.建设创新治理体系：培育更有策源力的创新生态

　　

　　我国要在新时代引领未来创新，必须在发展人工智能方面有系统布局和关键举措。丰富的应用场景、海量数据积累、实体经济基础和良好的人才储备都是人工智能发展的肥沃土壤，关键是从科技、产业和规则等几方面着手，打造良好的人工智能发展生态。

　　

　　一要攻克核心技术，掌握发展主动权。我国人工智能发展优势在于市场应用和模式创新，短板在于核心技术较少，特别是缺少重大原创成果，在基础理论、核心算法、高端芯片等方面更是差距较大。要实现我国人工智能的长期健康发展，必须下决心突破基础科学和关键核心技术。要紧紧抓住算法、大数据和计算能力等人工智能的核心环节，力争占领发展制高点。

　　

　　二要推动形成人工智能发展共同体。目前，我国企业单打独斗情况较明显，使很多本土创新难以推广，应推动本土人工智能企业构建相互支撑的产业体系，促进产学研良性互动、大中小企业相互配合。还要促进人工智能企业“AI+”和应用企业“+AI”的双向合作。一方面应鼓励人工智能企业与实体经济领域企业进行更广泛更深入的融合；另一方面，也应鼓励传统行业企业进入人工智能领域。对接全球创新源头，集聚人工智能领军企业，大力培育初创企业。

　　

　　三是推动人工智能与实体经济深入融合。人工智能的应用发展必然是“软硬结合”和“深度融合”。互联网、大数据、人工智能与实体经济的深度融合，将催生现代产业体系。现代产业体系既不是简单的传统产业加人工智能等新技术，也不是简单的人工智能等新技术加传统产业，而是具有新产业链、创新链和价值链的新型产业体系。当前正是现代产业体系形成的关键期。现代产业体系在全球都处于孕育期和卡位期。以无人驾驶为例，人工智能公司和传统汽车公司都投入了巨大精力，也取得了一定的测试成绩，但是都尚未进入产业化阶段。在目前来看，各种技术路线百舸争流。虽然目前来看还不能确定谁赢谁输，但是现代产业体系具有赢家通吃的特点，一家企业的平台一旦成为行业生态，将具有决定性的优势。抓深度融合，既要制造智能化，也要智能制造化。新产业体系落地靠新两化融合。智能与制造之间，未来将会发展出两种路径，一种是“制造智能化”，继续沿着现有的智能制造路线深化;另一种是“智能制造化”，也即算法实体化、“泛机器人”时代来临。在未来一段时间内，这两条路线将并存并行。

　　

　　四是从政府角度提供更大的“应用场景”。当前，人工智能落地应用主要集中在安防等公共领域，公共部门市场对人工智能发展具有重要影响。应促进数据公开和公共服务智能化升级，积极从政府角度为人工智能发展提供更大的数据资源和“应用场景”。政府数据公开的目的之一，就是为更多企业提供数据分析的基础。但是由于种种原因，政府数据公开在国内外都受到很多局限。政府的很多政务需求，事实上都是天然的“应用场景”，政府提供“应用场景”，也将是培育智能企业的有力手段。同时，政府提供“应用场景”，可以是数据公开的一种有效手段，应用场景比数据更加丰富和立体。比如，为了改善营商环境，部分地方政府提出“最多跑一次”“不见面审批”等要求，这就在客观上对数据之间的联通和共享提出了要求。同时，这也意味着很多智能化技术有了应用场景。这样的应用场景还将带动更多的后续创新。

　　

　　4.建设社会治理体系：在鼓励创新与控制风险中取得平衡

　　

　　作为兼具技术属性与社会属性的强大技术平台，人工智能在推动经济社会发展的同时，也带来了巨大的社会系统性风险。

　　

　　一是人工智能技术本身的不成熟性不稳定性带来的潜在风险。本轮人工智能的发展得益于以深度学习为代表的算法和海量数据、大规模计算能力形成的超叠加效应，表现为语音识别、语义分析、机器视觉、无人驾驶等关键技术实现大规模集群式商用。虽然深度学习正在广泛应用，并取得了显著成绩，但是人们并没有理解其背后的原理。当前的人工智能主流技术路线高度依赖训练数据，数据“质量”决定了技术品质。在部分民用领域，数据质量的不确定性很大程度上会增加人工智能系统输出的不确定性。同时深度学习算法本身的不透明性，导致难以评估其输出决策的正确性和在社会应用中的公平性。

　　

　　二是人工智能应用带来的复杂社会效应。人工智能应用可能会导致结构性失业，据多份研究报告显示如果人工智能短期内大规模应用，会冲击现有就业结构和模式。平台型大企业掌握消费者的海量数据，也存在因数据垄断增加社会不公平的风险。目前，发达国家正在加大对平台企业的监管力度。隐私保护难度加大，在人工智能和大数据时代，大家都会成为“透明人”。人工智能还会带来新的法律问题。人工智能之所以“智能”，是因为它可以“替人”做某些“决策”。而人的决策权的让渡，也让出现问题后的“问责”成为难题。如无人驾驶测试已出现多起事故，但到目前为止，关于问责机制还没有形成共识和一致规范。同时，无人驾驶等新商品的产生也对现有交通规则形成巨大挑战，很多国际组织正在讨论无人驾驶汽车等新技术所需要的新的监管体系。

　　

　　三是人工智能被用作攻击和作恶的工具所带来的风险问题。人工智能作为武器会推动人类进入智能战争时代，对于人工智能可能在军事领域的应用，联合国也就原有武器使用监管规则是否需要更新，以及机器是否可以代替人类做决定等问题进行了深入讨论。使用人工智能可能实现对选民和公众进行大规模的精准化情绪引导与干预，同时，“深度造假”（deepfake）等技术应用也使得社会舆论出现更多变量，这些都给各国的政治安全带来了新的不确定因素。使用人工智能进行各种攻击成本更低、效率更高又难以防守。目前，已经出现基于人工智能技术的诈骗活动。

　　

　　引导规范人工智能健康发展包括两个方面，一是确保治理规则促进（或不阻碍）技术进步和产业发展，二是确保技术发展安全可靠可控，核心问题是使其益处最大化而风险最小化。

　　

　　面对人工智能这一能够带来巨大经济社会价值的技术应用，各个国家和地区在认识其带来的风险时也持不同态度。目前最具代表性的应对路径有两种。

　　

　　第一种是让创新先行，再从事故中学习。其哲学思想是，新技术一定会给社会带来诸多益处，但也会有意外，既然事故无法避免，那就从事故中尽量学到新的东西。最终将经验与教训融入到最佳实践中。美国较倾向于这种路径。

　　

　　第二种是突出预防优先原则。欧洲是典型代表，其倾向是虽然也想率先使用新技术，但强调现有法律框架下人的相应权利。欧盟很多的战略都体现了这种创新首先要“正确”的思路。当然欧盟也在反思自己的措施是否得当。欧盟最新发布的《欧盟可信赖人工智能的伦理准则（草案）》中，对人工智能应用的伦理列出了框架，但是并不具有法律效力，仅代表欧盟高级别人工智能专家组的意见，体现了其努力的方向。

　　

　　应对人工智能带来的系统性挑战，需要积极从社会制度层面做出适应性调整。我们认为中国应积极探索更具包容性和开放性的第三条治理路径，坚持技术、产业和规则齐步走，建立更加具有弹性空间的动态治理机制，积极在促进创新和社会有序演进方面实现动态平衡，既要呵护促进创新又要防范系统性风险，为人工智能健康发展提供保障。要努力形成一套务实管用、行之有效的方法，对创新高度包容，同时对可能出现的风险高度警惕，针对出现的问题加强多部门的协同治理。比如，对人工智能领域的新应用、新尝试给予足够的创新空间，并积极推动人工智能在公共服务领域的应用。同时，进行数据、算法和典型应用场景的相关立法工作，明确底线和红线。一旦发现相关问题，监管力量及时介入，采取多部门联合调查处理的方式封堵隐患、解决问题，并不断把治理经验上升为法律规范。

　　

　　人工智能的广泛渗透性和治理的复杂性，都表明其相关的治理必然是全球治理。目前，主要发达国家、领军企业、重要国际组织、智库都在积极进行研究和探索，相关新规则正在孕育过程之中。我国在推进人工智能健康发展过程中，需要兼顾国际规则和话语体系，在涉及伦理、隐私等敏感领域积极加强国际沟通，深度参与全球人工智能治理。

　　

　　在具体建议方面，一是积极推进人工智能示范应用的综合实验。可建立全球人工智能综合实验区，为全球最前沿的智能产品和服务应用提供示范场景，并积极探索完善相关规则，为推动人工智能健康安全发展积累经验。

　　

　　二是支持研究机构代表中国参与、引领国际规则。支持相关研究机构和企业牵头发起国际人工智能治理合作项目。

　　

　　三是提升智能综合治理能力，政府牵头搭建利益相关方的协商平台，为企业、消费者和智库参与治理提供渠道。

　　

　　四是着手建立适应人工智能时代的教育和社会保障体系，保持人力资源培养体系的竞争力，提高社会保障系统的适应性。

　　

　　五是加强监管技术的研究与前瞻预警引导，建立人工智能研发和应用的伦理法律规则，最大限度地降低风险，确保人工智能走上安全、可靠、可控的发展轨道。

　　

　　文章为上海市科学学研究所“人工智能研究组”阶段性成果，原刊于《全球科技经济瞭望》2018年第11-12期。作者：王迎春，上海市科学学研究所副研究员，科技发展研究中心主任，科技与社会研究室主任。李辉，上海市科学学研究所科技与社会研究室副研究员。