人工智能，呼唤全球治理机制创新

本篇文章3817字，读完约10分钟

2018年4月8日，巴基斯坦前总理阿齐兹在博鳌亚洲论坛年会上体验微软人工智能产品。

本报记者孟祥麟照片

在2017年5月的“人机大战”中，中国棋手柯杰0比3输给了人工智能“阿尔法狗”。

2017年12月4日，在浙江乌镇举行的第四届世界互联网大会“互联网之光”博览会上，人们体验了人工智能机器人。

人的视觉

斯蒂芬。霍金曾经说过，人工智能的兴起不是人类历史上最好的事情，就是最糟糕的事情。人工智能不仅推动了巨大的技术进步，也给经济和社会治理带来了新的挑战。如何在人工智能的发展中最小化风险和最大化收益？

对国际安全与和平的挑战

艾丽。伯利兹

我们生活在一个不同寻常的历史时代。在科学技术的推动下，世界变得更加相互依存。这些技术进步的重要性将在几年后逐渐凸显出来，特别是当它们被用作实现可持续发展目标的一种直接、高效和低成本的操作工具时。健康、教育、能源、环境和许多其他关键领域都将受益于人工智能。

人工智能在国际安全中意味着什么？有人认为，随着各国不断努力发展基于人工智能的军事力量，我们很快就会发现自己处于人工智能军备竞赛的边缘。一些人认为人工智能和机器人技术可能在军事力量上提供重要优势，世界可能面临一场新的军备竞赛。人工智能和机器人技术将在冷战期间取代核武器。

我们还应该开始思考人工智能对非国家行为者，如恐怖组织和犯罪组织的重要性。与此同时，我们必须付出时间和精力来理解如何使用人工智能来打击犯罪和恐怖活动，并找到加强全球安全的方法。在联合国系统，包括促进科学和技术发展委员会、国际劳工组织、国际电信联盟、联合国贸易和发展会议、联合国儿童基金会和联合国教育、科学及文化组织等。，都在各自的职责范围内积极评估人工智能等技术进步的影响。

联合国犯罪和司法研究所的人工智能和机器人项目的基本原则之一是，人工智能和机器人像其他技术一样，没有好坏之分，它们都是最终可以用来实现目标的工具。然而，这些技术具有明显的风险和收益的双重性，所以我们必须小心避免过度的风险。

联合国犯罪和司法研究所在荷兰海牙建立了第一个联合国人工智能和机器人中心。该中心致力于通过提高认识、教育、信息交流和协调利益相关者来应对与犯罪相关的人工智能和机器人技术带来的安全影响和风险。这样做的目的是便利向相关领域的决策者和政府官员提供信息。

人工智能带来的风险和好处交织在一起。此外，人工智能能否终结贫困或引发一个犯罪和恐怖的新时代，取决于今天做出的决定。鉴于技术的复杂性和该领域的快速发展，这些决策需要充分评估其潜在影响。只有整合相关方，我们才能最大限度地降低风险，实现收益最大化。

(作者是联合国人工智能和机器人中心的主任)

警惕人工智能的不平衡发展

鹿传英

人工智能被认为是引领科技变革的通用技术，也是一种颠覆性技术。各国政府都制定了促进人工智能在民用和军用领域快速发展的战略。同时，人们应该保持警惕。人工智能不仅会带来伦理和经济结构等社会变革，还会对国际经济和安全秩序产生根本性的影响。因此，从全球治理的角度来看，我们应该更加关注人工智能可能给全球秩序带来的挑战。

人工智能最大的影响是在经济领域。传统产业的替代将导致世界范围内的大量失业，能否创造新的就业机会仍不确定。从国家的角度来看，人工智能的先驱国家和大国仍然可以通过开发人工智能的利润来弥补传统产业的损失，并通过将部分利润用于转移支付和社会保障制度来维持社会的基本稳定。然而，在一些跟不上人工智能发展的国家，大量的工作可能会转移到国外，这导致政府缺乏足够的资源来应对经济和社会冲击。

此外，从全球经济体系的角度来看，发达国家占据中心地位，而发展中国家和不发达国家依靠廉价的土地、资源和人力资源占据半边际和边际地位，并与中心国家形成依赖关系。人工智能可能的颠覆性情景包括:发达国家通过在经济领域应用人工智能来减少发展中国家对劳动密集型产业和自然资源的需求，从而改变发展中国家在全球经济体系中的角色，让发展中国家从世界经济的边缘滑向体系之外。

从全球安全系统的角度来看，人工智能在军事和安全领域的应用将进一步扩大。有些人认为人工智能会让士兵更安全，让人们更容易受到攻击。前者是因为各种智能武器开始取代士兵来执行战场任务。后者是因为依靠人工智能的攻击目标越来越多地针对网络目标，如电厂、地铁等与人们日常生活密切相关且不可或缺的关键基础设施。一旦战争爆发，攻击首先来自网络，对平民造成伤害的概率将远远大于传统战争。

人工智能对全球经济和安全的影响仍处于初级阶段，但我们应该从工业文明对农业文明的影响出发，思考如何发挥人工智能的积极作用，并通过全球治理降低其可能产生的影响。因此，人们不仅要关注道德、失业等直接相关的问题，还要关注全球治理和人工智能在全球层面的不平衡和不平等发展，呼吁国际社会更好地抓住发展中国家人工智能的发展机遇，在人才培养、技术转移和应用创新方面提供资源和帮助。

(作者是上海国际问题研究所全球治理研究所副研究员)

世界各地的多方一起讨论新模式

伍肆？盖瑟

人工智能和相关技术给我们的社会发展带来了巨大的利益。医疗机器人可以在某些疾病的诊断和治疗中发挥辅助作用。在交通领域，智能旅行可以实时监控交通状况，规划最佳路线。基于人工智能的无人驾驶技术也将在不久的将来得到广泛应用。在环境保护领域，人工智能结合卫星探测系统可以监测空气污染，分析污染成分和来源，更好地帮助政府有效控制环境。

世界各国的决策者和相关部门应该肩负起制定新的治理框架和政策的重任。它不仅要充分发挥人工智能的潜力，还要应对一系列潜在的挑战。许多专家认为，我们面临的最大挑战是如何设计和使用人工智能来建设一个更加包容的社会。在未来，人工智能可以用自动化代替危险的工作，或者提供需要技能和判断的更复杂的工作，所以人工智能有很大的潜力。只有在教育、劳动和税收等重要领域采取正确的政策，才能释放这种潜力。与此同时，我们需要共同努力，确保人工智能不会加剧现有的经济不平等，而是平等地惠及整个社会，包括弱势群体。

未来，监督模式将从以国家为中心的指挥控制监督机制向更加复杂的治理手段转变。尽管人工智能治理模式的精确轮廓在未来仍在变化，但当前的研究已经看到了模块化概念在“分层治理”模式中的好处。这一治理框架基于最佳做法，涵盖社会、法律、道德和技术措施，并支持相应的工具，如国际条约、标准和准则。

人工智能在未来的深远影响可能是跨部门和跨辖区的。在设计治理框架时，政府、企业、学术界和人民需要共同努力，使人工智能造福社会。相关对话不仅应在区域和国家一级进行，也应在国际一级进行。过去10年来，全球互联网治理的经验证明了全球多方参与的重要性。可以预见，在未来关于人工智能治理新模式的讨论中，将需要更多的全球合作和参与。

中国被广泛认为是人工智能领域的领先国家。在为了人类和世界的利益而构建全球人工智能伦理和治理的重要时刻，中国也是国际社会公认的重要参与者。

(作者是哈佛大学法学院教授和哈佛大学伯克曼互联网与社会中心主任)

为人工智能治理贡献中国智慧

Hejia

人工智能发展带来的挑战对治理提出了新的要求。如何使人工智能更好地造福人类，是世界各国共同面临的新课题。

中国政府从战略高度重视人工智能的发展和治理。2017年，《新一代人工智能发展规划》和《推进新一代人工智能产业发展三年行动计划(2018-2020)》相继出台，这是人工智能协调合作的发展战略。

从发展的角度来看，优越的政策环境、繁荣的应用创新和丰富的用户数据为中国加快在人工智能领域的赶超和为全球治理做出积极贡献提供了坚实的基础。自2015年至2016年，中国关于深度学习的论文一直处于世界领先地位，人工智能企业和专利数量也位居世界第一。

中国人工智能产业发展的一个主要特点是重视应用创新，特别是在计算机视觉和图像、语音识别、自动驾驶系统等领域。在基于深度学习的信息发布产品和云计算服务的技术规模上也有一定的优势。人工智能产业的兴起导致了许多领先的人工智能实验室的建立，促进了人工智能的商业化，并将人工智能技术应用于通信、娱乐、教育、金融、医疗保健等方面。凭借人工智能的技术优势和在当地市场积累的实践经验，新兴技术企业正以各种方式加速国际化。在决定人工智能未来发展的三大因素中，中国拥有数据优势，其计算能力也在不断提高。

从治理的角度来看，人工智能治理的主要议题包括:人工智能的发展将引发哪些社会问题，哪些问题需要在全球范围内解决，哪些问题具有国家特殊性，以及谁将为这些问题买单。人工智能技术仍在迅速发展，其应用仍处于初级阶段。因此，全球人工智能治理才刚刚开始，在这些问题上还没有达成共识，也没有形成一个能够有效聚集所有利益相关者并制定相应的国际行为准则和规范的核心平台。

作为人工智能领域的新兴国家，中国可以为人工智能的全球治理提供丰富的应用案例。为了增强中国在全球人工智能规则制定中的影响力和话语权，中国各界迫切需要加强对人工智能治理相关问题和进程的早期参与，跟上全球认知的步伐，建立共同的话语体系。同时，加强行业和学术界之间的国际对话与交流，准确了解全球各利益相关者的需求，为各种决策储备充足的知识，为国际社会人工智能治理的理论研究和实践发展贡献中国的智慧和力量。

(作者是上海国际问题研究所的访问学者)

制图:张芳曼

《人民日报》(2018年4月19日，第23版)

来源：搜狐微门户