Facebook AI副总裁：深度学习和当前的人工智能有很多局限性
文库划重点：我同意某些观点：它可以传播人类的偏见，不容易解释，它没有常识，更多的是在模式匹配而不是强大的语义理解的层面上。但我们在解决其中一些问题上取得了进展，而且这一领域的进展仍然相当快。你可以把深度学习应用到数学上，也可以用它来理解蛋白质，你可以用它做很多事情。
Jerome Pesenti在全球最具影响力和争议的公司之一Facebook领导人工智能技术的发展。作为Facebook人工智能副总裁，他管理着数百名科学家和工程师，他们的工作指导了公司的发展方向，以及对更广阔的世界产生影响。
人工智能对Facebook来说至关重要。学习抓住我们注意力的算法有助于使该平台及其姊妹产品Instagram和WhatsApp更具粘性和上瘾性。而且，尽管有一些著名的失败的人工智能产品（比如个人助理M），Facebook仍在继续使用人工智能构建新的功能和产品，从Instagram过滤器到增强现实应用。
Mark Zuckerberg承诺，将部署人工智能，通过控制仇恨言论、虚假新闻和网络欺凌，帮助解决一些公司最棘手的问题。但目前为止，这一努力收效甚微。最近，Facebook被迫考虑如何识别人工智能驱动的虚假视频，这种视频不仅可以令人信服地传播错误信息，还可以引发新形式的骚扰。
Pesenti于2018年1月加入Facebook，继承了该领域大牌人物Yann Lecun创建的一个研究实验室。在此之前，他曾在IBM的Watson AI平台和Benevolent AI工作，该公司正在将这项技术应用于医学领域。
日前，Pesenti在其纽约办事处附近会见了《连线》的资深作家Will Knight，下文是经过编辑的访谈对话。
Will Knight：人工智能被认为是解决虚假新闻和网络滥用的方法之一，但这可能夸大了它的威力。你们在这方面取得了什么进展？
Jerome Pesenti：在Facebook的规模下进行自动调节甚至是人和计算机的协同工作，是一个极具挑战性的问题。但是我们已经取得了很大的进步。
早期，我们在视觉理解和图像处理方面取得了进展。在过去的几年里，我们已经能够将相关技术应用于识别裸体、暴力的图像和视频，以及理解图像和视频中发生的事情。
最近我们在语言领域也有了很大的进步，我们能够通过人们使用的语言更精确地理解互动。我们可以分别出哪些是仇恨言论，哪些言论只是一个笑话。这决不是一个已经完全解决的问题，但已经取得了明显的进展。
Will Knight：deepfake呢？
Jerome Pesenti：我们非常认真地对待这个问题。实际上，我们四处寻找并制作了新的deepfake视频，这样人们就可以测试deepfake检测技术。这是一个非常重要的挑战，我们正在努力未雨绸缪。目前这项工作在这个平台上使用得并不是很理想，但我们知道它可以变得非常强大。我们已经与业界和社会接触，努力领先。
Will Knight：让我们更普遍地谈谈人工智能。一些公司，比如DeepMind和OpenAI，声称他们的目标是开发「人工通用智能，AGI」，Facebook也在做这件事吗？
Jerome Pesenti：作为一个实验室，我们的目标是让技术匹配人类的智力。虽然还有很长的路要走，但我们认为这是一个伟大的目标。我认为实验室里的很多人，包括Yann，都认为「AGI」这个概念并不是很有趣，也不是很有意义。
一方面，有人认为AGI是人类智能。但我认为这有点不真诚，因为人类的智力本身就不是一个统一的问题。另一方面，有些人对 AGI 的想法很奇怪，他们认为，AGI是一种可以靠自己不断进化的智力。但是这并没有真正的模型，即便是人类都不能让自己变得更聪明。我认为人们对AGI的追捧有点像是对某种议程的追捧。
Will Knight：Facebook的人工智能实验室是由LeCun建立的，LeCun是深度学习的先驱之一，他最近因在该领域的工作而获得了图灵奖。你怎么看那些批评该领域注重深度学习，认为它不会给我们带来真正的智慧的人？
Jerome Pesenti：说实话，深度学习和当前的人工智能有很多局限性。我们离人类智力非常遥远，我同意某些观点：它可以传播人类的偏见，不容易解释，它没有常识，更多的是在模式匹配而不是强大的语义理解的层面上。但我们在解决其中一些问题上取得了进展，而且这一领域的进展仍然相当快。你可以把深度学习应用到数学上，也可以用它来理解蛋白质，你可以用它做很多事情。
Will Knight：一些人工智能专家也谈到了「复现性危机」，或者说是重新创建突破性研究的困难。你认为这是个大问题吗？
Jerome Pesenti：这正是Facebook AI非常热衷的事情。当人们做一些不可复制的事情时，就会遇到很多挑战。如果你不能复现它，那就会产生大量的投资损失。
我们相信复现性给这个领域带来了很多价值。它不仅可以帮助人们验证结果，还可以让更多的人了解正在发生的事情，并以此为基础进行构建。人工智能的美妙之处在于，它最终是由计算机运行的系统。因此，作为科学的一个分支，它是一个首要的候选者，是可复制的。我们相信未来的人工智能将是默认可以复制的东西。我们试图开源我们在人工智能中编写的大部分代码，这样其他人就可以在上面构建自己的东西。
Will Knight：OpenAI最近指出，高级人工智能所需的计算能力每3个半月就翻一番。你担心这个吗？
Jerome Pesenti：这是个很好的问题。当你扩展深度学习时，它往往表现得更好，能够以更好的方式解决更广泛的任务。所以，缩放是有优势的。但显然，这种进步速度是不可持续的。如果你看看最前沿的科学实验，它们每年的成本都会增加数10倍。现在，一个实验的花销可能是7位数，但不会达到9位数或10位数，不可能，没人能负担得起。
这意味着在某个时候，在很多我们目前已经涉及的领域，我们会撞到墙。并不是每个领域都达到了可扩展性的极限，但在大多数地方，我们已经到了一个需要从优化、成本效益等方面考虑的地步，而且我们还需要看看如何从现有的计算中获得最大的收益。这就是我们将要面对的情况。
Will Knight：你从IBM和Watson的人工智能商业化中学到了什么？你在Facebook会试图复制哪些东西，又会试图避免什么错误？
Jerome Pesenti：在Watson的时光非常有趣，IBM称这是一个商业市场，实际上有应用程序。我觉得那真的很了不起，但有点太夸张了。我认为这对IBM的服务来说不是很好。
当你有一个像 Facebook 这样的地方时，人工智能在组织内的使用率是非常惊人的。目前，Facebook内部使用人工智能的开发者数量每年都翻一番以上。所以，我们认为它是有用的，但不要夸大它。我不需要夸大其词来证明我的团队的存在。
Will Knight：Facebook 有时很难将人工智能研究成果转化为商业上的成功，你认为如何更有效地将理论研究与工程实践联系起来？
Jerome Pesenti：当你开始谈论技术转换时，这意味着你已经输掉了这场战斗。你不能只选择一些研究，而要求其他人尝试将其投入生产。你不能把它扔过篱笆。最好的方法是让人们和更接近产品的人一起做基础研究，确保一系列项目随着时间的推移而成熟，并将人们聚集到一起，而不是让科学家站在一边独自研究，这确实是一个组织上的挑战。
Will Knight：那么，近期Facebook会推出哪些新的人工智能产品呢？
Jerome Pesenti：如今，人工智能在Facebook中的核心用途是让平台对用户来说更安全，并确保我们向用户展示的内容对他们有价值。但我们正在做的一些最令人兴奋的事情是试图创造只有拥有人工智能才可能有的新体验。增强现实和虚拟现实都只能存在于人工智能中。我们最近看到，你可以用手与虚拟现实互动，这需要对耳机周围的东西有一个非常微妙的了解。它只使用一个相机解析整个场景，这样你就可以用你的手作为控制器。我也相信让人们更有创造力的潜力是巨大的。你可以在 TikTok 这样的竞品中看到这一点。许多人通过与媒体自然互动而不是成为专家、视频编辑或艺术家来创作视频和内容。
Will Knight：deepfake 背后的技术可能会达到这样的创造性目的吗？
Jerome Pesenti：当然。我们需要看到积极和消极两个方面。人工智能让人们更有创造力的潜力还很大。但正如我们在过去几年中所了解到的，我们需要负责任地使用这项技术，需要在意外发生之前意识到这一点。
Will Knight：你对人工智能出口管制有什么看法？这项技术能被限制吗？会对这一领域有所伤害吗？
Jerome Pesenti：我个人的意见是，这似乎是非常不切实际的。不过，除此之外，它还可能对研究进展产生负面影响，迫使研究工作的可重复性降低。我相信开放性和协作性对于推动人工智能的发展是很重要的，限制基础研究成果的出版或开源可能会减缓该领域的进展。
也就是说，无论是否实施了此类控制，作为负责任的研究人员，我们应该继续考虑潜在误用的风险，以及如何帮助减轻这些风险，同时仍然确保我们推进的人工智能尽可能开放和可复制。
（原文标题：《Facebook人工智能副总裁：AI 这一领域很快就会「碰壁」》）
via：https://www.wired.com/story/facebooks-ai-says-field-hit-wall/
收录于哈希力量，手机站省略本文固定网址
