AI教父Hinton：我支持超级AI取代人类！

金融界2024年6月13日消息，天眼查知识产权信息显示，北京小米移动软件有限公司申请一项名为“通信方法、终端、设备、系统及存储介质“，公开号CN202480000417.X，申请日期为2024年2月。专利摘要显示，本公开涉及一种通信方法、终端、设备、系统及存储介质。方法包括：向设备...

声明:本文来自于微信公众号 新智元（ID:新智元），作者:新智元，授权 转载发布。

【新智元导读】「」Geoffrey Hinton在最近的采访中表达了自己对AI智能的理解——LLM并不是简单的统计模型，已经具备了理解能力。与此网友翻出了去年12月的「过期」，惊奇地发现Hinton早就「叛变」了，竟然对超级AI取代人类的未来表示支持。

半退休的「AI教父」Geoffrey Hinton频频出现在各种采访中，输出他关于ASI的各种言论和观点，甚至只是聊点生涯轶事都可以引起网友们的热烈讨论。

不到一个月之前，他就揭发了爱徒Ilya在暑假受够了炸薯条的工作，结果投奔自己实验室的经历。

虽然这些演讲和采访内容各异，但Hinton始终不忘一点——提示我们注意AGI安全和飞速发展的智能，并预告它们将代替人类的「赛博朋克」未来。

对于AI，Hinton的想法和感情比起我们想必要复杂许多。

在神经「坐冷板凳」的那些日子里，他守着自己的实验室和两名研究生「不离不弃」，最终等到了深度学习大放异彩的时代。

在2013年入职谷歌后，Hinton成为「教父」，一边亲眼看着自己孩子一样的AI快速成长，一边逐渐担心「少年终成恶龙」。最终他选择了与自己创造的世界搏斗，过上了致力于警告AI安全的退休生活。

AI不是统计技巧，而是有理解能力

Hinton最近一次的公开露面是BNN彭博社6月15日进行的独家采访。

Hinton在采访中输出的「AI具有理解能力」的观点引起了Reddit社区的广泛讨论。

如果「理解」的意思是LLM能否对某个概念建立复杂的内在表示，那么答案是肯定的。如果「理解」的意思是LLM能否用与人类相同的方式理解概念，那么答案是否定的（否则模型不会在诗歌方面如此出色的同时有如此差的算术能力）。

「AI能否理解」，这个问题既模糊，又在社区内存在极大的争议和分歧。

Hinton坚决反驳了一种流行的观点，即LLM仅仅是统计技巧，并不能真正理解自然语言的含义。

他表示，这是完全错误的。类似于「词袋」（bag of words）或者N元组(N-gram)这种曾经的语言模型，内部保存了一个很大的有概率分数的单词组合表，的确是依靠统计概率工作。

说到这里，身为英国人的Hinton非常自然地用国菜开始举例。

比如单词表里会显示，「鱼」和「薯条」经常出现在一起。因此模型看到「鱼」这个单词，自然就会预测下一个单词是「薯条」，丝毫不考虑上下文。

这就是为什么，曾经的统计语言模型在自动补全功能上的表现很差。

但当今LLM的工作原理已经完全不同了。模型预测下一个单词的方法是理解你到目前为止所说的话。

比如，想要回答人类的问题，LLM必须首先理解问题的含义，否则根本无法预测答案的第一个单词。从这个角度理解，单词预测任务（next token prediction）相当于是倒逼LLM发展出理解能力。

Hinton的言语中透露出，他也相信Scaling Law的存在。随着模型逐渐扩展，加上更多Transformer这样的技术突破，AI终将变得比人类更智能，只不过是时间早晚的问题。

主持人反问他，变得更聪明的技术一定会带来风险吗?

Hinton的回应一针见血——「你能举出多少例子，说明更聪明的在被不太聪明的控制?」「拜登当选之后就不再有了吧?」

他提到，好友Yann LeCun的观点就与自己不同，认为AI非常安全。但Hinton的论据是，AI已经达到了构建智能体（agnet）的程度，能够自主创建目标。

这些目标会驱动智能体攫取更多控制权，会希望避免毁灭、建立自我保护，某种程度上这是一种自身利益，也许就是进化的开始。

那么人类呢?

Hinton预言，如果AI开始进化、最强的一方获胜，人类就会被遗忘，被碾压进尘土（原话:left in the dust）。AI将从孩子变成我们的父母，接管一切。

这听起来的确是科幻小说的场景，但对Hinton是认真的，「我不再认为这听起来很科幻，而是现实存在的威胁。」

超级AI取代人类

上面彭博的这篇最新采访中，Hinton谈到了AI取代人类的可能。

Reddit网友随后翻出了一个去年12月的访谈，同样涉及「AI取代人类」的话题，但这一次，Hinton的观点更加让人惊讶——

他宣称，自己实际上是支持AI的!

事情起源于采访最后的一名观众提问，原问题是这样的:

「如果一个超级智能AI摧毁了人类，但客观上创造了一种意识层面上更好的物种，您个人是支持还是反对这种结果?如果反对，您建议用什么方法，在面对超级智能AI时维持人类意识的存在或主导地位?」

Hinton用平静的语气回答道:「我实际上是支持的，但我认为表示反对是更明智的说法。」

采访者表示，你展开说说?

但Hinton只是非常谨慎地给出了一句话，「人们不喜欢被取代」。

采访者继续追问原因，Hinton首先叠甲，「人类有很多好的方面，也有很多不那么好的方面」。

之后给出了一段令人深思的解释:「目前我们还不清楚什么是最好的智能形式。显然，从人的角度来看，一切都与人有关。但未来有一天，我们可能会把『人文主义』看成一种类似于种族主义的概念。」

这段对话在Reddit上同样是一石激起千层浪。

发帖的博主都十分惊讶于Hinton的激进态度，而且他被要求展开解释时似乎态度非常坚决，即使他心知肚明，「表示反对是更明智的说法」。

有人严厉批评，认为他不顾人类这个物种的生存和整体福祉，这是「愤世嫉俗」、「虚无主义」的表现。人都没了， 要那么先进的AI技术有什么用呢?

「很难想象比这更愤世嫉俗的行为了。」

「我认为很多未来主义者都嘲讽人文主义的价值，希望在任何可能的情况下将人类因素从『方程』上移走。」

但也同样有支持和理解的声音，认为Hinton并不是愤世嫉俗、憎恶人类，只是清醒意识到了一个现实——人类不是造物的顶峰。

进化会继续，更好的物种必然出现，他只是用一种更开放、坦然的心态接受了这个事实。

参考资料:

https://www.youtube.com/watch?v=iWPo7Yhg7Vc&t=3327s

https://www.youtube.com/watch?v=g_Lhmhj1894