黑客王琦：教会人工智能骂脏话，是黑掉它的第一步（附演讲全文）

本篇文章3579字，读完约9分钟

王岐山鞠躬，掌声雷动。

[王琦]

采访并发表讲话|王琦，著名的牛蛙，极客网的创始人。

在历史上，雷锋。com是大师级的作家，希望用简单的语言解释科技的一切。

中国最著名的黑客竞赛极客网结束了。中国的顶级黑客在剧院里放满了精彩的表演，而剧院就坐落在这艘漂浮在南海的游轮上。

黑客王琦曾一手创建微软中国应急中心，一手拉起了著名的安全研究团队敏锐团队。四年前，他决心成为中国最酷的黑客大赛，让曾经因为买不起车库而遭受婆婆白眼的黑客重获尊严。为此，他重组了敏锐的团队。

当智能硬件很热的时候，黑客一次黑掉极客网络上的几十个摄像头，让他们随着密码摆动窥探。这些摄像机的舞蹈就像一个简单的寓言，但它是一个预言——在2016年两年后，黑客控制了数十万台摄像机来攻击美国的沿海地区，半个国家被切断了几个小时，造成了20亿美元的损失。

被忽视几乎是先锋的命运。此外，在硬件制造商眼里，他们只是一群黑客。

但没关系。你在各种媒体上看到的王琦总是目光炯炯，嘴唇微张，一只手拿着麦克风，一只手指着空，既不激动也不邋遢。他似乎一点也不气馁，就在今天谢幕之前，王琦不慌不忙地走上舞台，在这场2017年极客年中竞赛中做出了或许是最精彩的预测。

Ai将成为黑客攻击的目标，ai将成为黑客攻击的武器。

以下是王琦讲话的全文。雷锋。(公开号码:雷锋。在不改变初衷的情况下做了一个很好的编译:让我们先做这样一个测试。左边有一只猫，右边有两个句子。如果你看到这张照片，你会怎么理解它？如果你问一个人或一台机器，你会得到不同的答案。

小明:我不确定，但是我想这只碗是一只猫。

小华:乍一看，我以为是卡布奇诺。

在我们输入这张图片后，右边的这两个句子分别是人类和人工智能机器说的。你认为小明是机器人还是小华是机器人？

让我宣布答案。事实上，小明是一个机器人。因为在这个判断中，小明没有通过图灵测试。

你为什么要提这个？Geekpwn(真棒)正在人工智能领域做一些事情，主要是在视觉领域。最初，在今天的项目中有一个“无人驾驶汽车攻击”——如何让无人驾驶汽车识别错误的东西，但不幸的是，参赛者在比赛前两天选择了退出这个项目。

我想告诉你，我们现在提出的人工智能安全挑战是有争议的。

随着计算机视觉发展了这么多年，这是非常困难的。到目前为止，它还没有发展好。为什么计算机视觉如此困难？

▲上图为一家人躺在沙发上的照片

自1956年人们第一次进行计算机图像识别以来，机器只知道0和1，它们仍然用数字来读取像素。例如，在这张照片中，我们看到了它旁边的沙发的边缘，但那时候对机器来说是非常困难的；对机器来说，更难标记出它是一只狗，而不是沙发垫。正常人把这张照片看做一家人在看电视，但人工智能无法理解这一点。如果我们问一个问题，你在电脑里看到了什么？你在孩子的衣服前面看到什么颜色？这更难做到。

目前，计算机视觉识别在标签方面表现良好，并且发展迅速。我知道哪个是狗，哪个是人。计算机视觉在人工智能发展中扮演如此重要角色的原因是人脑中70%的信息来自视觉。

▲谷歌猫

必须提到的一件事是谷歌猫。在“谷歌大脑”的帮助下，无需任何训练和指导，我们就可以通过使用内部算法从海量数据中自动提取信息，并学会如何识别猫。也就是说，在2012年，谷歌电脑实现了无标签输入。2012年至2014年期间，计算机视觉识别率也有所提高，2012年的错误率为27%，2014年仅为3.5%，而相同条件下的人为错误率为4%。也就是说，人工智能识别图像的能力基本上等于人类的能力。

这实际上是深入学习的方式。深度学习是一个通用术语，包括一个深度学习模型，如阿尔法狗和卷积神经网络。

谷歌猫使用深度学习技术

这是特斯拉最新的自动驾驶系统，可以非常精确地标记汽车和物体，这是一个非常令人兴奋的应用。但是从黑客的角度来看，我们想到了一些东西。如你所知，我们已经做了一些在大场景中偷车的事情，包括我们的安全领域。

然而，入侵atm机和入侵个人电脑没有区别；黑客无人机和手机没有区别。我们能有更酷的方法吗？当汽车行驶时，你可以看到一个穿白色衣服的人在汽车旁边。成熟的系统当然认为它是一个人，但是我们不能欺骗它认为它是一个树桩或消防栓吗？如果有人能像这样破解它，我特别欢迎。2016年，在美国大硅谷的特别演出期间，一些专家在这方面做了一些研究。

在我们的调查中，我们发现做人工智能的人不太了解安全性，他们也不太了解人工智能。我们找到了去年在谷歌工作的伊恩·古德费勒，他验证了我们的想法。他现在取得的结果和我们想要的相似。我们发现人工智能的模型非常相似:通过大量的学习样本进行深度学习来做出决策是人工智能的学习方法。所以挖洞的过程是:

生成大量样本，将它们交给软件，改变数据流，最终导致错误的决策。

通过这样的模型，伊恩向我们的网站展示了另一件事。在离线状态下，他使用了猜测机器学习的过程。

人眼看到的是一只狗，它可以被任何具有人工智能的系统识别为狗。

然而，这张图片已经被修剪，这愚弄了领先的识别系统，许多系统坚持认为它是一只鸵鸟。

还有这张噪音图片，识别系统坚持认为它是一只熊猫。

除了图像识别，语音识别也有这样的威胁。

微软去年推出了人工智能聊天机器人。然而，就在它发射后的一天，它开始发誓。当他学习了半天，他看到很多人对他破口大骂，他认为这是人与人之间正常的交流方式。

▲微软的聊天机器人tay

所以我认为，在人工智能时代，每个人都可以成为黑客。互联网时代的代表是搜索引擎。当搜索结构被污染时，它仍然需要技术，但是当微软机器人被污染时，它不需要技术和代码，只需要你对它发誓。

我一直把现在已经坏掉的智能设备定义为伪智能，它只能代替我们的手和脚，但不能代替思考。智力迟钝的时代总有一天会变成强智能和超智能的时代。当那一天到来时，我们应该让它安全地为人类服务吗？

刚才我谈到了图像和声音，但我想再举一个例子。

▲上图显示的是人们将机器狗携带的东西打掉，通过各种“虐待”来提高机器狗的运输可靠性和反应能力。

每个人都知道这只由波士顿提供动力的机器狗。波士顿动力是不同于形象和声音的智能，是一种行为智能。学习生物走路时保持平衡。

看看这只机器狗是如何训练的。踢它以保持平衡，让它难堪。每个人都会觉得这个人很恶心，机器狗很可怜。但是，当我们从黑客的角度来看，我们的背会变冷。如果机器人认为踢或打别人是正常的呢？

▲超级支票

有一部电影叫《超级支票学校》。这个小机器人刚制造出来就被强盗抢劫了。出来后，他觉得用这把粗金链枪来抢钱是正常的。我希望随着时代的发展，从错误的智力到弱智的智力，都可以获得强大的智力。我们有义务让人工智能安全地为我们服务。

有些人可能认为我是危言耸听，但我认为事实恰恰相反。

艾的决策失误现在被普遍理解为仅仅是失误。然而，安全领域的经验告诉我们，目前的安全漏洞只是多年前的错误。如果我们用黑客思维来理解它们，我们就会明白许多错误实际上是可利用的漏洞。

有些人认为黑客对人工智能没有实质性的帮助，但我认为恰恰相反。

人工智能之父图灵在第二次世界大战中也是一个典型的黑客，十年前他提出了“机器能思考吗？”。黑客的逆向思维可能有助于人工智能模拟神经网络中遇到的困难。

今年10月24日，我们将宣布新的规则。有两个部分，一个是人工智能，另一个是人工智能。左边是扼杀人工智能，也就是欺骗；右边是用人工智能杀死一些东西。

2014年，一名男子在美国发表了一项关于黑帽的技术。当他看到一个人在几十米外输入密码键盘时，他可以从他的行为判断密码是什么。他的论文没有使用人工智能的部分，所以我们与人工智能专家交流。如果我们输入一堆密码，然后用机器学习的方法判断我输入的是什么密码——是单指输入还是双指输入——来破坏安全性，我们也欢迎这样的黑客。

如果我们使用我们的特殊技能，我们可以提前做一些事情，帮助人工智能正常发展，这是非常有意义的。这一步可能走得有点早，但我认为如果我们走得早，我们肯定会收获很多。

王琦认为“打开大脑”是黑客大赛的使命。

为此，他将战场转移到了一艘漂浮在公海上的游轮上。

王琦回忆起第一次极客快克秀，当时他用各种姿势突破智能硬件。但他诚实地告诉了雷锋。

近年来，极客网上的项目确实缺乏创新。中国黑客在智能硬件方面的最低弱点可以超过美国黑客，但大多数局限于“命题合成”。如果你不提示，许多人不会尝试新的破解领域。因此，我将在10月份把我的家庭游戏放在美国，我将主动在中国设定新的研究目标。

领导一群走在时代前列的黑客是一项艰苦的工作。但这几乎是他唯一的使命和选择。

因此，人工智能可能是极客网的下一个目标。

在作者的历史上，雷锋。com是大师级的作家，希望用简单的语言解释科技的一切。

雷锋原创文章。严禁擅自转载。详情请参考转载说明。

来源：搜狐微门户