黑客对决AI GeekPwn人工智能安全挑战赛全球招募

本篇文章1693字，读完约4分钟

北京，5月14日(新华社)当人工智能被欺骗时，人类的未来会是什么？5月13日，全球首个海洋极客大赛“极客年中大赛”在香港举行。组委会在星际之梦邮轮“云顶之梦”上宣布，将于10月24日开始在上海和硅谷招募人工智能安全挑战人员，奖金为500万英镑，并接受世界顶级人工智能安全极客的注册。与此同时，极客网将与合作伙伴就人工智能安全的社会和专业问题进行前沿和深入的讨论，如该项目的共同发起人next idea(腾讯创新大赛)和人工智能独家合作组织者Machine Heart。

(？甄嬛首席执行官，极客大赛创始人王琦)

特斯拉的远程控制，用鼻尖解锁手机，任意远程劫持世界上任何用户的通信...geekpwn是一个国际安全极客竞赛，成立于2014年，白帽黑客将他们的逆向思维和异想天开发挥到了极致。在向世界展示他们的才华的同时，他们还帮助数百家制造商和产品解决安全问题。极客创始人？振锐公司创始人兼首席执行官王琦表示，从对抗的理念出发，成立了人工智能安全挑战赛，旨在发现人工智能的潜在风险，并不断帮助其改进，从而帮助人工智能安全健康发展。

如今，人工智能已经广泛应用于生活的许多场景，包括实时语音翻译、目标识别、自动驾驶等。极客网络实验室(geekpwn Lab)率先关注人工智能可能暴露的诸多风险，于2015年底启动了人工智能对抗研究，广泛接触和招募人工智能领域的顶尖人才。很快，在2016年的极客美国站，一代对抗网络(gans)之父伊恩·古德费勒(ian goodfellow)展示了真实物理世界中“对立图像”欺骗机器学习的效果。原始图像以60%的置信度被判定为“熊猫”，但当人眼完全看不到区别时，它被归类为执行度为99%的长臂猿。

最近，一些研究人员发现，恶意攻击者可以欺骗谷歌的cloudvision api，这将导致该api对用户提交的图片进行错误分类。网络罪犯可以利用这种技术传播暴力图片、色情图片或恐怖主义宣传图片。

你不需要学习代码。将来每个人都可能成为黑客

艾可能在图像领域受到欺骗，这使预见到这种可能性也将存在于声音和行为智能等其他领域。艾被骗了，这似乎是人工智能的错误和缺陷，但实际上，它可能成为黑客眼中可以利用的漏洞。随着人工智能在交通、金融和医疗系统中的应用越来越广泛，极客网希望在恶意分子真正攻击之前找到一种方法来对抗这些攻击。

王琦表示，在人工智能领域，深度学习依赖于学习大量样本并最终做出决策的过程，这与在安全领域通过生成大量模糊测试样本来发现漏洞的过程非常相似，最终执行过程会发生变化，从而导致安全隐患。如果正确的样本能够做出正确的决策，那么黑客通过离线模拟生成的人工智能攻击样本可能会给人工智能带来错误的决策和行为。

微软聊天机器人tay推出不到一天，它就“成功地”从网民那里学到了一种新的聊天方式，从彬彬有礼的美国“女孩”到不停地骂人，而且它的话语充满了种族主义和色情等“情感偏见”。王琦大胆预测，深深依赖于学习样本的人工智能将来可能甚至不需要编写代码来攻击它，而且每个人都可能成为“黑客”。

伟大的传播英雄的职位和人工智能的全球人工智能极客“决战到底”

作为世界上第一个探索人工智能和安全的专业平台，极客网将人工智能安全挑战列为2017年的重点项目。2017年，共同赞助人NextIdea以“未来想象”为主题，让年轻人更加关注与人类未来密切相关的领域，包括人工智能安全，让每个年轻人的异想天开自由发展。腾讯集团营销与公共关系部总经理徐靖雯认为，安全专家对未来的担忧将引导年轻人思考人类未来生产生活中遇到的问题和挑战，让更多的年轻人为人工智能的安全做出贡献。

无论你是想突破人脸识别手机的解锁，在人工智能的开源框架中找到问题，还是想“创造”人工智能代理，让它们入侵，你都可以注册。在即将到来的黑客和人工智能的对抗中，黑客们将如何利用人工智能的错误和不完善，给人们带来突破性的想象和先进的技术展示？所有这些将于10月24日在极客2017嘉年华上海站和硅谷站向全人类展示。

“我们现在正在帮助人工智能成长。我希望有一天，黑客能够成为保护人类的团体。”王琦说。

来源：搜狐微门户