当前位置:首页  〉 科研学术  〉 业界声音

洪小文:如何让人工智能赢得所有人的信任?

发布时间:2018-10-15 发布来源:上海市科学学研究所

  在人工智能渗透到人类生活方方面面的时代背景之下,如何部署人人可用、体现永恒价值的人工智能系统,让人工智能赢得所有人的信任?近日,在2018世界人工智能大会——“人工智能与法治”高端研讨会上,微软全球资深副总裁、微软亚太研发集团主席兼微软亚洲研究院院长洪小文先生作了《人工智能的社会角色与未来愿景》的报告。
  
  一、未来计算:人工智能及其社会角色
  
  我们可以利用人工智能实现许多了不起的成就。结合机器和人类的优势,我们有望解决人类社会面临的贫困、疾病和无知等重大挑战,但是,我们同样希望以一种合乎道德的方式,来实现人工智能的潜力。微软最新出版的《计算未来》,对以下事项做出了最新评估:人工智能的潜力、人工智能带来的未来挑战,以及我们提出的指导人工智能应用的、关于道德和社会方面的建议,包括如何采取相应措施,来应对不断变化的工作性质和人工智能对就业所产生的影响。该书前言由微软总裁Brad Smith先生和人工智能研究执行副总裁沈向洋(Harry Shum)先生合写,重点介绍了人工智能将如何延展人类能力,改善人类生活以及解决其他社会问题,同时着重探讨了需要各社会机构/团体(包括政府、学术机构、商业组织和民间团体)合力解决的重要议题,以确保人工智能以负责任的方式得到开发和部署。
  
  二、人工智能的经济影响
  
  人工智能可以极大地推动发达经济体和发展中经济体转型。根据埃森哲咨询公司针对12个发达经济体开展的关于人工智能影响的研究,通过改变就业性质以及创造新型的人机关系,到2035年,人工智能有望将年经济增长总值提高一倍。就人工智能技术对企业的影响而言,劳动生产率预计最高可提升40%,从而进一步推动经济增长。
  
  在发展中国家,人工智能可作为助推器,加快实现2030年可持续发展议程。
  
  三、计算机理解世界
  
  一般而言,人工智能指可以执行感知、学习、推理和决策功能的一系列技术,其目的是赋予机器理解并与世界互动的能力,使其能够采用与人类类似的方式,协助我们解决复杂、棘手的问题。
  
  机器学习技术可识别大型数据集中的模式,并据此做出预测或提出建议。我们在人工智能领域取得的最新进展要归功于机器学习技术的进步。机器学习系统采用数据集中的部分数据进行学习并作出预测,然后利用剩余数据对预测结果进行测试。预测结果可由此进一步完善,变得更为精确。
  
  人工智能与此前的机器制造和软件编程方法,核心区别在于学习功能。人工智能并不是通过编程所事先设计的特定方式做出回应,而是通过学习做出回应。
  
  人工智能的发展迎来了转折点:过去十五年,可供利用的海量数据、互联网互联互通以及云提供的低廉计算能力三重因素,共同推动了创新算法领域的重大进展。人工智能许诺的前景是,将分析和机器学习应用于可用数据,可提供新的洞见和智能,改善决策过程,从而获得更好的研究成果,全方位改善我们的生活及周遭世界。相较于“人工智能”而言,帮助我们优化决策的“计算智能”是一个更贴切的词语。
  
  虽然人工智能仍未完全成熟,但是,对它的应用早已开始;它无所不在,已渗透到日常生活的方方面面,改善了各个领域中诸多系统的性能,包括导航软件、搜索引擎,以及私人助理。我们正在拓展人工智能技术的开发边界,以便实现人与系统更自然的互动。
  
  四、人工智能的前景
  
  我们坚信,采用人工智能可以延展每个个体和组织的能力,为他们创造新的发展机遇,推动几乎所有人类事业的进步,解决众多既有社会挑战。如果每个人都可以利用人工智能,那么人工智能将促进产业转型,提高我们的生产率,帮助我们解决最为艰巨的社会问题,推动教育、医疗、交通、农业和许多其他领域的重大进步。
  
  未来二十五年,世界人口预计将增加近25亿,人工智能可通过增加农业产量和削减浪费,为我们创造增加粮食产量的重要机遇。在精准农业方面,我们已采用传感器对湿度和土壤条件等指标进行测量,并据此开展分析,为农民提供建议,帮助实现农业产量最大化。人工智能有望为全球逾100万残障人士提供服务,这是其可能带来显著积极影响的另一个领域。
  
  五、微软视角:以延展人类智能的方式设计人工智能
  
  微软坚信我们需要基于人类立场来发展人工智能——以人为先——以人为中心。以人为先的途径,关键在于设计系统时,让人工智能放大并提升人类智能,而非让人工智能取代人类智能。将人工智能擅长的领域(从大型数据集中学习模式和提炼信息)与人类擅长的领域(创造力、同理心、公平、判断力)相互结合。
  
  计算机本身无善恶之分,它们的运行不涉及善恶。善恶关乎人工智能系统的设计者。我们需要确保人工智能的设计者——软件工程师——掌握正确的工具,拥有正确的意识观念,帮助他们在恒久的人类价值观指导下设计人工智能系统。
  
  六、微软的目标:人人共享的人工智能
  
  人工智能创造了不可思议的机会,将全面驱动经济和社会进步。要实现人工智能的潜力,需要在尽可能广泛的领域适用人工智能——让软件开发师、行业专家、大大小小的组织机构能够利用先进的人工智能技术来构建自身的解决方案。
  
  我们正通过一系列项目(包括我们提供的平台和工具),促进人工智能功能的广泛应用,并在我们的产品中融入智能功能(例如,Office软件中的字幕自动生成功能,PPT中的翻译插件等)。
  
  七、负责任人工智能的原则、政策和法律
  
  >>>>(一)以赢得信任的方式设计人工智能
  
  人类之所以能够在现实世界中相互交往、彼此信赖,是因为我们已经就什么是负责任和可接受的行为达成了广泛共识。一般而言,这种共识脱胎于人们对特定行为规范的内在认同,在日常的交互活动中得到一贯适用,并通过立法而得到确认。只有企业、政府、民间团体和研究机构等利益相关者,在公认原则和道德框架方面开展合作,人工智能技术才可能赢得人们信任。
  
  我们认为,以透明和问责为基石,承诺遵守公平、可靠和安全、私密和有保障、包容性原则,将提供一个坚实框架,建立公众信任;该等原则应当用于指导人工智能的发展。
  
  >>>>(二)公平——人工智能系统应当公平、客观对待每一个人,且不得区别对待处境类似的群体
  
  >>>>(三)可靠和安全:人工智能系统应可靠、安全地运行
  
  人工智能的复杂性使人们开始担忧AI系统可能在不可预知的环境中导致伤害,或者可能会受到恶意操控,从事有害行为。人们对人工智能的信任取决于AI系统能否以可靠、安全和一贯的方式运行(即便是在未预料的情况下),特别是在关乎重大决策的领域,比如,交通运输、医疗保健和金融服务。AI系统需要证明,在绝大多数情况下,我们都可以信赖其将做出适当建议。通过设计,确保人工智能在各类情景中都将作出合理行为,提出了许多充满挑战的问题,我们正在对此进行大量研究。
  
  >>>>(四)私密和有保障
  
  人工智能需要大量数据,而影响到人类的人工智能系统则需要关于人类的数据。例如,我们无法预测谁的心脏病复发概率更高,除非我们已经掌握有心脏病史的广泛人群的大量数据,包括年龄、性别等。如果某人认为他的数据无法以保密、安全的方式用于正当用途,那么他就不会共享自己的数据。至关重要的一点是,AI系统在数据收集、使用和存储过程中,应遵守适用隐私法律,例如《通用数据保护条例》的规定。在设计系统时,必须注意保护个人数据免遭不法分子侵害;他们可能会窃取私人信息或导致其他伤害。
  
  >>>>(五)包容性
  
  AI系统应当惠及每一个人,以包容的方式解决各种人类需求和体验。这类技术可作为残障人士(例如,视障、听障、行动不便、语障或认知受损人士)的有力工具,在教育、就业、政府服务方面为他们提供之前无法获得的机会,改善其整体健康水平,社交/经济状况和生活质量。
  
  >>>>(六)透明性
  
  前四个原则的基础是透明性原则和问责原则。随着AI系统日益参与影响人类生活的决定,使人们能够理解AI系统的运行方式,并制定问责机制,是建立信任必不可少的一环。
  
  >>>>(七)问责
  
  AI系统的设计者和部署者必须说明其系统的运行方式。为了建立行为规范和最佳实践,我们可以汲取卫生保健和隐私等其他领域的经验。内部审查委员会可提供建议和指导,告知我们在AI系统开发和部署过程中应当采用那些实践。
  
  >>>>(八)政策考量因素
  
  人工智能仍处于起步阶段,要实现人工智能的潜力,我们需要制定政策框架,着重推荐人工智能的广泛部署,并鼓励持续创新。
  
  我们认为,要塑造人工智能的未来、最大程度地实现其潜力并降低其风险和影响,政府、企业、研究机构、民间团体和其他利益相关者必须开展广泛对话和持续合作,包括实施一套实践指导原则,鼓励以人为本的人工智能开发。由于人工智能技术仍在不断发展,这种对话和合作有助于我们发现具有重大社会意义的问题,判断其轻重缓急,同时可以使我们共享最佳实践,根据新出现的问题进一步研究和制定解决方案。
  
  政府应当鼓励人工智能的开发和部署,包括推广人工智能在公共领域的应用,并鼓励在解决公共和社会挑战时通过创新方式应用人工智能。鼓励遵循一套原则和最佳实践开发和使用人工智能,以便政府在此基础上,进一步制定法律和监管规则。为长短期人工智能技术研究和开发项目提供资金。研究项目应关注民营企业不可能从事的领域(例如,公共健康、城市开发和智能社区、社会福利、司法正义、环境可持续发展、国家安全),并应当注意人工智能对全球造成的长期转型影响。
  
  人工智能持续发展的最重要因素是数据:政府应当推广数据共享技术,向公众提供更多政府管控和出资建立的数据集。共享公共数据集以及人工智能培训和测试环境的可获性,有利于广泛开展人工智能实验,对比解决伦理问题的各种不同方案。
  
  八、结语
  
  我们相信人工智能有潜力改变世界,帮助我们解决复杂的社会和经济挑战。我们需继续携手合作,实现人工智能的潜力。
  
  “人工智能与法治”高端研讨会,是2018世界人工智能大会主办方分论坛之一,由上海市经济和信息化委员会、上海市法学会、上海人民出版社、上海市科学技术协会、上海市科学学研究所、科大讯飞等单位联合主办,2018年9月19日在沪举行。
  
  本文为微软全球资深副总裁、微软亚太研发集团主席兼微软亚洲研究院院长洪小文先生为2018世界人工智能大会——“人工智能与法治”高端研讨会上准备的演讲概要。文章观点不代表主办机构立场。

分享到:

版权所有©上海市科学学研究所

沪公网安备 31010402001155号