对话特伦斯：AI的进化动力与终极限制
文库划重点：在20世纪80年代，计算机速度慢且价格昂贵，因此必须对它进行逻辑化编程，但今天计算机的速度比过去要快一百万倍，并且通过深度学习，AI可以通过实例进行自我编程。比如，当我开始研究AI时，我们只能解决小问题，但今天可以通过更大的深度学习网络解决难题。
按：随着低垂的果实被摘走，越来越多的人抛出疑问「人工智能是否会再次进入寒潮？」但很少有人知道寒潮的真实情况，人工智能经过60多年的发展究竟在哪些方面已发生了变化，制约它发展的因素会有哪些，它会朝着什么方向演进？面对种种制约条件，我们可以做出哪些努力?
近期捕手志与美国「四院院士」（全美在世仅3位）、深度学习的先驱及奠基人、《深度学习：智能时代的核心驱动力量》一书作者特伦斯深度交流了一番，希望解开上述问题。特伦斯从AI的第一波浪潮就参与其中，他对当前AI发展现状的深度思考值得看看。
题图：全球十大人工智能科学家之一、美国「四院院士」、深度学习的先驱及奠基者特伦斯·谢诺夫斯基
AI的发展与制约
深度学习只是通用人工智能的第一步。它基于我们的大脑皮层结构，但我们的大脑还有许多其他区域可用于开发通用智能，我们需要对这点加深理解。
李曌：你在AI的第一波浪潮时就参与研究，至今AI发生了哪些变化？
特伦斯：在20世纪80年代，计算机速度慢且价格昂贵，因此必须对它进行逻辑化编程，但今天计算机的速度比过去要快一百万倍，并且通过深度学习，AI可以通过实例进行自我编程。比如，当我开始研究AI时，我们只能解决小问题，但今天可以通过更大的深度学习网络解决难题。
李曌：深度学习的本质究竟是什么？
特伦斯：深度学习的成功基于在非常高维度的参数空间中，学习高度复杂的统计模型。这使它能够解决现实世界中的统计问题，例如语音识别和自然语言翻译，这些问题难度也是非常高的。
李曌：你认为公众对深度学习的主要误解有哪些？
特伦斯：人们担心深度学习会夺走人类工作。相反，对人类而言，无论你是办公室的白领或是医生，深度学习都会使你变得更聪明。一些工作会彻底改变，但新的工作也会产生。
其实每当一项新技术产生时，都会有一个调整过渡期，在此期间会有意想不到的结果发生。目前人们正在测试自动驾驶汽车，但正如我在《深度学习》一书中描述的那样，人类社会需要几十年才能适应这项新技术。
李曌：最终深度学习会发展到什么水平？
特伦斯：深度学习只是通用人工智能的第一步。它基于我们的大脑皮层结构，但我们的大脑还有许多其他区域可用于开发通用智能，我们需要对这点加深理解。
李曌：深度学习可以解决哪些领域的问题？中国AI领域大概有20个独角兽、30个准独角兽企业，这当中近80%都与图像识别或语音识别有关系，美国的AI企业是什么情况？
特伦斯：深度学习打开了一扇门，让人工智能通过语音、语言和视觉与人交流，而基于编写程序的AI无法做到这一点，因为问题各不相同导致编写的程序极大且复杂。
深度学习可以应用于有足够数据量的许多问题，它还对许多其他问题产生重大影响，例如：在医学领域，深度学习对许多疾病的医疗诊断都好过或与最棒的医生匹敌。深度学习在许多科学领域也非常有效，例如天文学和细胞生物学。
美国有数百家小型AI初创公司，有许多打造专用机器学习芯片的硬件初创公司。
李曌：为什么美国会有那么多生产专用机器学习芯片的硬件公司？
特伦斯：计算能源成本是人工智能的终极限制。人类大脑中有1000亿个神经元，每个神经元都与其他数千个神经元相连，总计达千万亿个突触连接。大脑运转所需的功耗是20瓦，但一台远不如大脑强大的千万亿次级超级计算机，功耗却为5兆瓦，是大脑功耗的25万倍。
目前最大的深度学习网络只刚好嵌入像米粒大小的大脑部分，随着学习系统的扩展，发展AI必须制造出更节能的专用芯片，我们需要比现在强大一百万倍的硬件。如今我们才刚刚开始：谷歌、微软和亚马逊等大型科技公司正在打造更节能的专用机器学习芯片。
李曌：数据也是制约AI发展的重要原因，当前大部分数据都被集中在各国的科技巨头手中，形成数据孤岛。如果不保证数据具有完备性（多样性、充足）的情况下，AI有可能做出错误的决策，区块链是否是其中一个解决方案？
特伦斯：区块链技术有可能帮助我们解决数据访问问题，这是世界各地正在探索的众多解决方案之一。
AI的国界与治理
因为我们创造了AI，所以与管控人类自己相比，我们应该能更好地管控AI，人类自身是更糟糕的麻烦制造者。
李曌：你认为中美两国在发展AI上谁将更有优势？可以想象AI会对世界格局产生影响，那么政府在其中应扮演什么样的角色？
特伦斯：AI在全世界都在觉醒，任何国家都没有垄断地位。在20世纪80年代，只有少数大学拥有足够的计算机能力来进行AI研究。今天，任何拥有笔记本电脑的个人都可以做出重要的发现：AI已经变得民主化，这意味着没有人能预测下一项重大进步将来自哪里。政府不应对此阻挠，而应加强国际合作促进这一进程。
李曌：你在《深度学习》一书中也提及中国拥有更多的数据，但是否意味着更多的数据和更多的工程师，这种规模上的优势能倒推带来基础研究层面的突破或者决定技术的路线？
特伦斯：我在书中的评论是基于将当前的AI技术应用于AI可以解决的问题，并且可以提供许多解决方案。但有些问题可能需要一个新的突破，没有人知道该突破发生的时间和地点。
李曌：如今AI的应用有明显的边界，要发挥人工智能的作用需要具备哪些条件？有人认为脱离了五个条件（数据充足、确定性、完全的信息、静态、特定领域的单任务）后，AI就很难发挥余地，你如何看？
特伦斯：当前的这些限制最终将被克服。深度学习已经与强化学习相结合，达到了围棋世界冠军水平。我们在大脑中发现了许多其他类型的学习算法，这些算法将在未来大大增强AI的功能。
李曌：的确，深度学习和强化学习结合，推动了算法的自进化。如果我们按照人的思维去推进AI的发展，是否会使得AI的发展陷入困境中？如果AI的发展不在人们思维所预料之内，是否未来会变得不可控？
特伦斯：所有技术都可以用于善恶目的。与我们共同存在的有些技术甚至比AI更具存在风险，如核武器和生物战。到目前为止，我们通过识别并减轻风险已幸存下来。自然进化赋予我们的智能帮助我们在不确定的环境中生存，而我们需要自救，从而在更加不确定的环境中生存。
李曌：这似乎让AI的治理已经被迫提上了行程。
特伦斯：因为我们创造了AI，所以与管控人类自己相比，我们应该能更好地管控AI，人类自身是更糟糕的麻烦制造者。AI将有很多用途，我们现在甚至无法想象。我们必须应对每项新的应用，以确保它得到适当的监管。
AI的进化与破局
当前神经科学领域正在发生一场革命，这将引发人们对大脑创造智能的新见解，但它还需要几十年才能将这些发现转化为下一代AI。
李曌：AI的系统如今还都非常脆弱容易受攻击、欺骗，需要大量的数据，而且不可解释，之所以造成这样的缺陷的原因是什么？美国物理学家Freeman Dyson认为目前AI方向有非常多大的噪音，整个圈子建立在了错误的想法之上。因为大脑是模拟的，而机器是数字的，大脑被用来比较图像和模式，机器可以做但灵活性很差。他认为除非我们能做出模拟的模型，而非数字模型，我们才可能对大脑有更多的认识，而很少人在朝这个方向努力。
特伦斯：我们不了解人类大脑的工作原理，但即使它并不完美，也并不能阻止我们对其使用。我们对神经网络的数学理解正在取得重大进展，并且可以修复缺陷，但这需要很多年。我想Freeman Dyson可能没有意识到这些进步。
李曌：我们对神经网络的数学理解加深，对AI的发展有什么重大的意义？
特伦斯：对一项技术有理论上的理解有助于对该技术做出重大改进，但这会是一个漫长的过程。例如，我们经历了从1903年莱特兄弟的第一次载人飞行发展到今天的大型喷气式飞机。
李曌：当然也有人提出反问：谁规定AI必须按照人的智能来发展的？
特伦斯：大自然让人类大脑进化以解决许多问题，我们可以从大自然中学到很多东西。大自然解决了这些问题，这证明解决方案是可能的。直到最近，我们对大脑的工作原理还不太了解，但在21世纪已经取得了很大进展，对大脑的逆向工程才刚刚开始。
李曌：大自然的进化的确让我们认识到AI现阶段的问题，未来也会有解决方案。但对进化的理解是否也会限制AI的发展？商业公司在利用进化带给我们的直觉、感受对我们实现控制，比如利用进化中人体对糖的需求从而向人们推销甜食，但环境已经发生了变化（原始社会中水果便是最甜的食物）。
特伦斯：人类在规范商业世界方面做得还不够好。你在指出人类智能的缺陷，这可能不是AI的最佳目标。
李曌：那AI的最佳目标是什么？
特伦斯：每个人都有自己的目标。我认为AI的最终目标是让人类更好地了解自己，并将天平向更好的方向倾斜——同舟共济符合我们所有人的利益。
李曌：这意味着未来我们将与机器共生。
特伦斯：「共生」很好地描述了人类和AI的合作方式，AI不会取代我们，反而会让我们更聪明地做事。如今「共生」现象已在医学和生物学领域发生。
李曌：这让我联想到很多科幻电影里人与机器共存的场景。著名机器人制造专家Rodney Brooks认为，要让机器人完成日常任务，他们较高的认知能力应该基于感官运动与环境的相互作用，而不是抽象推理。你也提到复制身体反而比复制大脑更复杂。
特伦斯：我完全同意Rodney Brooks的观点，即我们需要更好地了解我们的身体如何帮助我们解决问题。自1956年AI出现以来，我们认识到，我们认为容易的问题，如视觉、言语和运动控制，比我们想象得要困难得多，相比之下抽象推理要简单得多。
李曌：虽然我们的大脑不是完全基于逻辑的，但不妨碍你的设想「如果大脑是基于逻辑的，那么它应该是跨领域的通用智能」。AI是基于概率的统计，属于数学范畴是基于逻辑的，那么是否证明AI实现通用是必然的？
特伦斯：AGI是一个系统级问题，而我们还在解决外围问题。我们需要更多时间探索如何整合深度学习所能实现的所有功能。如今，Deep Mind振奋人心的研究正在引领潮流。
李曌：当前推动AI发展的动力是什么，接下来的新动力又是什么？
特伦斯：从AI开发到其转化为大众市场产品的时间约为50年。今天推动AI发展的基本发现来自20世纪80年代。在已取得进展的基础上，当前技术还需要几十年的时间才能趋向成熟。
当前神经科学领域正在发生一场革命，这将引发人们对大脑创造智能的新见解，但它还需要几十年才能将这些发现转化为下一代AI。
李曌：你认为未来3年AI将会有哪些变化？
特伦斯：在现有技术的基础上，短期内的进步将是渐进的，而无法预测的主要进步将在25年内发生。
（编辑/潘宇波）
收录于哈希力量，手机站省略本文固定网址
