本篇文章4279字,读完约11分钟
这篇文章是由宗仁和肖华联合采访的。
宗仁、肖华和范晓是合作编辑。
“iclr是一个必要的选择,因为没有太多选择。所以在1996或1997年后,我组织了一个工作室,一个学习工作室,每年只有大约80或90人参加。2006年和2007年,当深度学习的浪潮到来时,这个工作室迅速成长。我们觉得有必要召开一个关于深度学习的会议,所以我们在四年前把这个基于邀请的工作室变成了一个公开会议。我认为这个决定很棒,每年都会吸引很多参与者。今年有1100人,去年有500多人,前一年有两三百人,第一年有130人,所以实质上发展得很快。”
4月23日至26日,国际学习资源中心在土伦举行了第五届国际学习代表大会。同时,雷锋的前线记者。《人工智能技术评论》来到现场,采访了iclr会议创始人、深度学习三巨头之一yann lecun,讨论了gan的未来、iclr的亮点、iclr论文的争议以及iclr与facebook的关联。下面是雷锋。人工智能技术评论
对iclr1的评论。人工智能科技:第一个问题是关于甘。关于gan,除了你自己的ebgan论文外,从今年的论文反馈来看,你预测了哪些可能的新发展方向?是的,我以前说过,在过去的10年里,gan是机器学习领域中最好的想法。这是一个非常有用的想法,可以使无监督学习工作。我一直相信的一件事是,人工智能系统需要一个能够预测未来的预测模型。预测未来的问题是预测结果是不确定的,未来有很多可能性。因此,当你训练一台能够预测未来的学习机时,很难使用正常的算法,因为会有一个固定而合理的答案。甘是这个问题的解决方案之一。这也是我对gan非常感兴趣的原因,我认为它可以在解决人工智能这个问题的发展道路上起到很大的作用。
2.人工智能技术评论:今年iclr的亮点是什么?我们现在只看到了部分内容,会议刚刚进行了一半。我认为有一些关于gan的有趣的论文,其他方面如自然语言处理、自然语言理解和知识表示学习,包括但不限于向量和神经网络,应该更一般。神经网络的内部状态用向量表示。20年前,人们认为更复杂的数据结构,如图形和张量,可以用来总结和表达神经网络的内部状态。我们已经看到了这方面的一些研究,包括神经网络和结构预测的结合,也有很多关于神经学习和强化学习之间关系的研究。但我认为我们没有看到任何重大进展。除了训练一个正常的强化学习网络,我们还需要新的概念,或者把简单的强化学习当成一种业务来制造这种机器。我没怎么注意其他亮点。
3.人工智能科技评论:被忽视的亮点是什么?我认为不应该忽视任何事情。但是,我认为我们可以更多地关注“基于模型的强化学习”或“基于模型的规划”以及“逐步规划”。iclr已经收到了这个领域的几篇论文,我认为这可能是我们构建更智能系统的途径,因为它可以使用世界模型,允许机器提前计划,而不是直接在环境中训练。人类和动物可以用很少的样本学习。原因是我们心中有一个很好的世界运作模型,我们还没有在人工智能上尝试过,因为目前还没有好的模型。人工智能可以建立一个世界运作的模型,特别是一个预测模型,比如把某样东西带进空,然后放手,它就会倒下,或者被填满。我们人类对世界的许多背景知识不是依靠观察,而是依靠行动。没有好的方法让机器做同样的事情。因此,gan是最有希望取得进展的方法,但它不能完全解决。而且,没有人有好的方法让gan工作。有许多不同类型的gan,每一种都有优点和缺点,但是没有广泛接受的类型或技能可以保证gan每次都能工作。这也是今后一两年这项研究中遇到的主要问题。
4.人工智能科技评论:如果一个普通的论文作者将他的论文提交给iclr,并想做一个演讲来解释他的论文,你有什么建议给他吗?我也想知道。我真的不知道这个,也不能回答。但是一般来说,人们最喜欢的报纸应该包含三样东西。首先,新想法可以让每个人从不同的角度思考;然后有一个好的结果;和标准的实验过程,这样每个人都可以看到你的想法是有效的。如果你的论文能包含这三样东西,那它就是一篇有影响力的论文,而且很有可能你会有机会发表演讲并向每个人介绍它。
第三点是证明新方法是可行的?
是的,但是它需要通过标准的实验过程来证明。你需要解释你的新想法带来了好的结果,而不是其他原因,比如很好地调整模型。
5.人工智能科技评论:gan能用于对话生成吗?没问题,你能做到。目前,这方面的研究不多,但肯定是可行的。
您最近宣布了wav2char,它需要至少十分钟的语音数据。从语音生成是模仿目标声音的角度来看,如果我们在语音生成中使用gan,有什么测试方法吗?以及是否可以先训练一个通用的语音模型,然后用特定人的语音训练生成的语音。
应该是wav2char。这方面有一些研究。许多人使用gan来研究语音生成,一些人直接使用波形,一些人使用频谱。那么使用gan的一个主要问题就是我们没有一个特别好的数字方法来测量人工智能的水平。当使用gan生成图片时,我们可以查看这些图片,看看视觉效果如何;如果言语产生了,我们应该听听言语是否有问题。然而,没有可量化的、客观的和固定的方法来估计由gan产生的语音数据的质量。这是一个大问题,因为它会使调整和选择最佳方案变得困难。
6.人工智能科技评论:众所周知,在iclr开始之前,“理解深层学习需要反思概括”一文引起了很多争议。大会如何在争议和权威之间取得平衡?争议是一件好事。争论促进了科学的发展。如果有人有不同的意见,他会考虑什么是最好的。科学发展的方向会有争议,但权威并不重要,真理有时来自不太出名的人。因此,我不认为有什么需要平衡的。
7.人工智能科技评论:你已经在这个iclr中提交了5篇论文。这些论文的研究内容与你在脸书上的工作相关吗?Fair是一个研究实验室,因此尽管我们开发的一些技术将用于facebook产品,但我们的大部分研究旨在该领域取得新发现,而不是直接应用。然而,我们所做的许多事情实际上都是在facebook服务中使用的,比如图像识别和翻译,它们直接应用在facebook产品中。
8.人工智能技术评论:在刚刚结束的f8会议上,facebook似乎在虚拟现实和现实方面取得了很大进展。你认为人工智能在这张由脸书策划的照片中会扮演什么角色?机器学习、计算机视觉等等,这些在虚拟现实和现实中都非常实用。例如,您需要定位和分割对象,添加视觉效果,进行3d完成,特征跟踪,目标识别等。所以人工智能会对虚拟现实和增强现实产生很大的影响,但是现在它有了很大的影响。
9.人工智能科技评论:在过去的几十年里,你在你的研究生涯中做出了一些重要的选择。从你的角度来看,什么是一个选择,以资助和组织iclr?哈哈,iclr是一个必要的选择,因为没有太多的选择。所以在1996或1997年后,我组织了一个工作室,一个学习工作室,每年只有大约80或90人参加。2006年和2007年,当深度学习的浪潮到来时,这个工作室迅速成长。我们觉得有必要召开一个关于深度学习的会议,所以我们在四年前把这个基于邀请的工作室变成了一个公开会议。我认为这个决定很棒,每年都会吸引很多参与者。今年有1100人,去年有500多人,前年有两三百人,第一年有130人,所以从本质上说发展很快。同时,我也把这次会议作为一个实现开放评审的机会。iclr使用这种不同寻常的公开审查机制,iclr也是一个尝试这种机制的机会。
对其他10条的评论。人工智能技术:对话人工智能被认为是一个重要的人工智能应用方向,但目前仅限于自然语言处理,效果并不令人满意。你认为目前对话人工智能的发展如何?没错,对话式人工智能仍然难以满足。如果虚拟助手是有用的,他们需要有一定程度的常识。但是现在机器太笨了,没有常识。这就是为什么我们正在研究预测模型,这是使人工智能最终具有常识的方法之一。
11.人工智能技术评论:我听说你的研究也在关注这方面。你现在的主要问题是什么?我正在研究几个课题。使用gan来研究预测模型实际上是无监督的学习;理解深层学习目标函数的几何结构是一个非常复杂的理论问题,也是我感兴趣的问题。还有可转让的竞争,这也是我感兴趣的。所以我在研究这三个主题。
12.人工智能技术评论:关于聊天机器人,你的主要研究方向是面向任务的还是开放的?有什么困难?如何解决困难?Facebook在研究聊天机器人方面做出了巨大努力,但这项技术不仅仅是为了创造一个虚拟助手。因此,该领域的许多研究仍在紧张进行中。
13.人工智能技术评论:最近,有传言称facebook在聊天机器人研发上的投资已经减半。你怎么想呢?这个谣言是假的。聊天机器人的商业化战略在不断演变,所以有些东西会被关闭或缩小,而其他一些方面会得到改善。但是这个领域的研究仍然非常活跃。
14.人工智能技术评论:5月,深度思维的阿尔法围棋世界冠军何洁将在中国参赛。你对比赛有什么期望吗?为什么谷歌必须再次与人机对抗?我的意思是,这还不足以打败李世石吗?围棋的竞争理论和策略一直很有趣,所以这场比赛对他们来说也很重要。谷歌也因为这场竞争而受到高度关注,这也是他们继续竞争的原因。我认为阿尔法围棋肯定能打败柯杰。
摘要:
雷锋。(公开号码:雷锋。《人工智能科学与技术评论》曾经写道:“这篇论文被拒绝了数千次,团队也不见踪影。为什么yann lecun仍然需要像他的初恋那样深入学习?Yann lecun是人工智能神经网络领域的大牛,现在是facebook人工智能研发团队的领导者。然而,他的研究之路并非一帆风顺。在神经网络变得如此火热的今天,他也经历了非常悲惨的岁月。自20世纪80年代扬恩·勒昆在巴黎求学以来,扬恩·勒昆已经对“神经网络”进行了30多年的深入研究。一旦他的研究方向不乐观,他的论文被各种学术会议拒绝,贝尔实验室(Bell Labs)项目停止,他与辛顿(hinton)和本吉奥(bengio)组成了一个非正式联盟,以重振神经网络。但现在他的夙愿在iclr上实现了。
他见证了他最喜欢的学术活动从工作室逐渐增加到300,500和1000人。为了寻求变革和创新,他以折中的方式开启了不寻常的公开审查机制;他预计会议上的一些论文会引起争议,但他很乐意鼓励和宣传这些论文。甚至当被问及“大会如何在争议和权威之间取得平衡”的问题时,他也毫不犹豫地说:“科学发展的方向是有争议的,而权威并不重要。”。
也许,只有那些经历过诽谤并坚持诽谤的人,才敢于走向更大的成功,而不用担心争议。
雷锋原创文章。严禁擅自转载。详情请参考转载说明。
来源:搜狐微门户
标题:AI科技评论专访Yann Lecun: 关于深度学习未来的14个问题
地址:http://www.shwmhw.com/shxw/61529.html