Bengio，Hinton和LeCun AI小组–倒叙视频–蒙特利尔深度学习峰会。

在蒙特利尔的深度学习峰会上，RE•WORK汇集了“人工智能的教父”，他们不仅参加了同一活动，而且还参加了有史以来的首次联合小组讨论。我们看到Yoshua Bengio，Yann LeCun和Geoffrey Hinton汇聚一堂，分享了他们的前沿研究进展，彼此和AI的初次记忆，并讨论了他们对AI未来的论文和预测。小组讨论由Joelle Pineau主持，他当时是麦吉尔大学计算机科学副教授，此后也成为了位于加拿大蒙特利尔的Facebook人工智能研究实验室的负责人。

坦率式的45分钟小组讨论开始，乔伊尔（Joelle）要求彼此介绍对方，解释他们的初次见面和彼此的第一次回忆，结果发现，这不仅很幽默，而且鉴于他们的友谊长久，其细节令人难以置信和工作关系。简介后，我们很高兴听到三位小组成员在工作中面临的挑战，由于他们在实地的存在，许多人认为这是有限的。 LeCun强调说，与十年左右的时间相比，人工智能的发展速度已成为障碍，而以前的反复试验方法已不再被广泛接受。

此后，乔伊尔（Joelle）要求每位成员强调他们认为没有得到足够信誉的论文，这可能是由于杰夫（Geoff）开玩笑而引起的H数问题，或者是由于内容少而引文少。必须重点阅读的论文，被认为是每篇论文的开创性贡献，在下面重点介绍：

Geoffrey Hinton和Ilya Sutskever，（2009年）–使用矩阵为符号关系建模

Yoshua Bengio，（2014年）–深度学习与文化发展

Yann LeCun和Tom Schaul，（2013年）–随机，稀疏，非平滑梯度的自适应学习率和并行化

从左至右：Joelle Pineau，Yoshua Bengio，Yann LeCun和Geoffrey Hinton

乔伊勒（Joelle）后来打趣说，他们现在可以被认为是三个朋友，他们以前在早期的职业中就不同的主题存在分歧，那就是说，我们想知道他们仍然没有达成共识 Yann提出了分歧，打破了沉默，这表明分歧越来越大，成为同一主题的不同方法，这只会对领域有所帮助

“在某个时候，Yann不希望与概率有任何关系，他称我们为概率警察，他会以任何方式计算概率而无需将其称为分区函数” – Geoff Hinton和Yann LeCun

我们是否处在一个将深度学习等同于AI进步的阶段中？

“我认为我们需要在AI成功的基础上提出新的想法，也许其中一些想法会受到之前所做的启发，但我们必须具有创造力” – Yoshua Bengio

“深度学习并没有消失，我们将继续使用20年后使用的一些实践，但是，这不足以实现进步，因此我们需要考虑新的架构。许多人都对动态体系结构感到兴奋，从NLP的角度来看，这非常有趣。也许回到2000年中期的稀疏状态可能是有益的” – Yann LeCun

“我认为我们所有人都相信的一件事是，最大的障碍在于没有无监督学习的客观功能，而该功能不需要我们重建像素。但是问题是目标函数是什么？” –杰弗里·欣顿

GO的中文游戏随后被Joelle引用，据我们所知，由于AI的出色表现，他已经看到了最高级别的退休玩家。乔伊尔（Joelle）提出了下一个挑战，开拓者认为这是继GO之后的下一个挑战。杰夫开玩笑说，smallnorb的错误率低于1.5％应该是命中列表中的下一个。 Yann也提到了星际争霸，这比GO困难得多，自小组讨论以来，我们在DeepMind上看到了一些出色的工作。

Yann继续建议我们在星际争霸中很少使用ML，这当然会在未来几年中得到发展，这再次证明了对行业趋势和挑战的先见之明表明了为什么他们在该领域如此渴望。然后，Yoshua引用了他实验室的一项名为“ Baby-AI”游戏的计划，其序言是人类必须像父母一样，使用自然语言和指点来教（虚拟）婴儿AI。该游戏发生在虚拟环境中，用于检查使用AI影响学习的速率。

无论如何，对我来说足够的是，在这里欣赏完整的四十五分钟的小组视频。

通过我们的BlockDelta个人资料查看其他文章。

职位Bengio，Hinton和LeCun AI小组–倒叙视频–蒙特利尔深度学习峰会。首先出现在BlockDelta上。