微软沈向洋与北大教授共话新书《未来计算》 引发人工智能伦理大讨论

本篇文章2382字，读完约6分钟

来自北京的消息，5月22日(Text/Yu Yiwan):由微软全球执行副总裁兼微软人工智能(ai)和微软研究部门负责人沈向洋和微软总裁兼首席法律官谢泼德共同主持的新书《未来计算:人工智能和社会角色》(Future Computing:Manual Intelligence and Social Roles，简称Future Computing)的中文版将于近期由北京大学出版社正式出版。同时，《未来计算》也将成为北京大学法学院人工智能相关课程的参考教材。

在北京大学法学院和北京大学出版社联合举办的人工智能与社会角色主题论坛上，北京大学计算机科学系主任沈向洋博士、黄铁军博士和北京大学哲学系教授何怀红博士深入探讨了人工智能的观点认知、道德原则、商业应用和未来发展等主题。

微软的人工智能发展

微软全球执行副总裁、微软人工智能和微软研究部门负责人沈向洋博士说:我们正处于一个计算变革的时代，未来计算将影响到每个人和每个组织。随着人工智能的发展，我们站在了一个前所未有的巨大机遇的门口。人工智能在给人类带来便利的同时，也给我们带来了社会、道德、法律、规范以及它所扮演的社会角色等方面的新问题和新思考。我们将有机会以前所未有的方式塑造我们的未来。面对这一历史机遇，我们必须采取负责任的态度，确保每个人都能参与和分享的美好未来，让人工智能造福全人类。

微软全球执行副总裁兼微软人工智能和微软研究部门负责人沈向洋博士

为此，微软在人工智能方面也做了很多努力。我相信每个人对微软萧冰都不陌生，不断升级的会话式人工智能产品萧冰总能给人们带来惊喜。微软知道鲜花、微软小营和基于人工智能技术的微软产品正在丰富和影响人们的生活。沈向洋博士在论坛上介绍了微软研究院在人工智能方面取得的突破。

微软的152层剩余网络是已知应用于imagenet数据集的最深网络。微软的方法对imagenet测试数据集的误差为3.57%。在之前的同一实验中，人眼识别的错误率约为5.1%。微软的会话式语音识别技术在行业标准总机语音识别基准测试中取得了低至5.9%的单词错误率，与专业速记员相当，并首次超过大多数人。

微软亚洲研究院自然语言计算组于2018年1月向斯坦福大学文本理解挑战赛提交的r-net模型以82.650的最高em值(精确匹配，表明预测答案和真实答案完全匹配)领先，并领先于82.304的人类分数。今年3月，微软亚洲研究院的机器翻译系统在一般新闻报道的汉英测试集中达到了人类专业译者的水平。测试结果显示，专业翻译人员的平均得分为68.6，而微软机器翻译系统的平均得分为69.9。

然而，人工智能技术的发展将继续遇到问题。《纽约时报》曾批评ibm和微软，称黑人女性的错误率高达21%-35%，而白人男性的人工智能人脸识别错误率低于1%。与此同时，人们需要回答诸如可解释的人工智能以及最终的决定是人还是人工智能等问题，这也是微软新书《未来计算》(Future Computing)的初衷。

《未来计算》一书分析了人工智能的未来、负责任地使用人工智能的原则、政策和法律，以及人工智能、职业和工作的未来。面对人工智能带来的巨大变化，未来计算创造性地提出了人工智能发展的六大原则:公平、可靠与安全、隐私与安全、宽容、透明与责任。这六条原则在论坛上引起了热烈的讨论。

乐观？悲观主义？最后，我无法绕过法律

近年来，已故的伟大科学家斯蒂芬·鲁·霍金最关注的话题是人类如何离开地球，警告人类警惕人工智能。特斯拉首席执行官埃隆·马斯克(Elon Musk)也向人工智能发出了一个不祥的警告:它可能引发第三次世界大战。马斯克认为，人工智能时代的战争不是由某个国家的领导人发起的，所有这些都将是自动化的。人工智能会自动规划策略，找出获胜概率最高的策略。

从左到右依次是:主持人沈向洋博士、北京大学哲学系教授何怀红、北京大学计算机科学系主任黄铁军

哲学家天生悲观。北京大学的哲学教授何怀红从这句话开始。人工智能会导致什么？一开始，人们会感到非常方便、惊讶和舒适。在某种程度上，这是一种物理外包。然而，随着人工智能技术的不断发展，人类智能会被外包吗？基于人工智能的机器人会很容易和人类玩吗？在达到人类智能之后，人工智能将很快超越人类智能。人们会对未知的死亡如此坦然吗？

悲观的何怀红教授也提出了一个假设。一个可以陪伴老人的家用机器人肯定是好的。如果一个歹徒闯入他的家，机器人应该在保护老人的同时制服歹徒吗？你想打开这个洞吗？此外，如果老人指示机器人做坏事呢？这将不可避免地导致法律问题。据何怀红教授介绍，德国已经将人工智能立法置于以人为本的位置。

沈向洋对立法优先的做法持保留意见。他认为，人工智能的发展还处于初级阶段，所以科学技术应该首先发展，在初级阶段受到道德原则的约束，在发展的同时进行总结，然后提升到法律层面。人工智能还没有达到超智能阶段，人工智能还有很长的路要走。

北京大学计算机科学系主任黄铁军教授是中国新一代人工智能发展规划的主要参与者之一。大数据智能、跨媒体智能、群体智能、混合增强智能、自主无人系统和类脑智能在中国新一代人工智能发展规划中被更多提及。关于人工智能，黄铁军说:我以前很担心，但后来就不担心了。因为这是连接未来的唯一途径，机器人的结构是从人身上诞生的，采取这一步骤只是时间问题。黄铁军曾经预言，在未来15-30年内，人类将见证人工大脑的实现。

毫无疑问，创造一个安全可靠的人工智能系统不是个人的责任，而是全人类的共同责任。为了设计可靠的人工智能，各方必须采用体现道德原则的解决方案，这些道德原则应该深深植根于重要而永恒的价值观中。人工智能如何立法尚无定论，但在人工智能的发展道路上，人类的智慧，尤其是关键少数群体(科学家、技术专家、投资者、政治家、媒体)的智慧，正不断受到考验。

来源：搜狐微门户