tronlink波场|用生命阻止AI毁灭人类！AI教父离开Google：后悔研究人工智慧

有 「AI 教父」美称的 Geoffrey Hinton 近日从 Google 离职，震惊业界。他提到过去 50 年来对神经网路与深度学习研究始终抱持着热情，不过在一个月前，这份热爱陡然间转变成了恐惧。本文已获得作者 Founder Park 授权。 （前情提要：比尔盖兹：AI 将成每个学生「专属家教」！但短期很多新创会失败） （背景补充：外媒：OpenAI再完成3亿美元融资！估值翻倍至290亿镁，红衫、a16z等参投）

本文目录

• 恐惧的未来即将到来
• 开启历史也将见证终结
• 飓风中淩乱，下一个离开Google的是谁？

五月一日，《纽约时报》报导了 Geoffrey Hinton 从 Google 离职的消息，消息震惊业界。文章称，Hinton 对毕生工作感到后悔和恐惧。

正是他的毕生工作，才有了今天 AI 的突破性进展。

Hinton 是享誉全球的认知心理学和电脑科学家，近 50 年来致力于神经网路的研究。在 2018 年，他因为深度学习的研究获得图灵奖，被称为「AI 教父」。他的研究最终助力了 LLM 的诞生，OpenAI 的首席科学家伊利亚·苏茨克维也是 Hinton 的得意门生之一。

Hinton 在 2013 年加入 Google，负责 Google 大脑的部分工作，并担任 Google 副总裁。

恐惧的未来即将到来

据《纽约时报》，身在多伦多的 Hinton 在 4 月向 Google 提出了辞职，已于上周四与 Sundar Pichai 电话沟通结束，沟通细节并未披露。 Hinton 离职的原因，是为了能够「自由地谈论人工智能的风险」，他对自己毕生的工作感到后悔。

「我用一个正常的理由安慰自己：如果我没做，也会有别人这麽做的」，他说，「（我）很难想象如何才能阻止作恶者用AI做坏事。」

值得一提的是，GPT-4 刚发布时，Hinton 对它讚誉有加：

「毛虫吸取了足够的养分，就能化茧成蝶，GPT-4就是人类的蝴蝶。」

仅仅一个多月后，他的态度发生了 180 度转弯。在採访中，Hinton 表达了几点担忧。

• 网际网路将被虚假照片、影片和文本淹没，普通人将「无法再知道什麽是真实的」。
• AI 会颠覆就业市场，当下 ChatGPT 等产品能够帮助人类劳工的工作，但他们可能会取代执行固定任务的助理、个人助手和翻译等角色，「它消除了单调乏味的工作，」Hinton 说，「这可能只是个开始」。
• 未来，AI 会对人类的存在构成威胁，因为它们通过分析大量数据学习令人意外的行为。现在个人和公司不仅允许 AI 系统生成程式码，并且会实际运行这些程式码。他担心真正的自动化武器会成为现实（就像科幻片里的杀人机器人，Hinton 当初离开美国就是因为不想接受国防部的投资）。 对于看似科幻的悲观未来，Hinton 说：「它可能比人类更聪明，少部分人相信这点。但大多数人认为这样的未来距离很遥远，我曾经也认为很远，可能需要 30 到 50 年甚至更久的时间。但显然，现在我不这麽认为了。」
• 还有一个核心观点，Hinton 认为，以上这些对未来悲观的预期，目前仍是假设，但可能会导致它们成为现实的情况已经出现：微软和Google的剧烈竞争，美国和中国的全球竞赛。

狼性的发展和竞争会导致恶果，到那时一切都无法被阻止。人们在强调 AI 危险性的时候，往往会将它比喻成电脑领域的「核武器」。

20 世纪，无论是写信给罗斯福的爱因斯坦，还是奥本海默，都在二战之后明确表达了为参与核武器研发和建议感到后悔，更为核武器成为冷战筹码和政治威胁的工具感到强烈不满。

开启历史也将见证终结

Hinton 毕业于英国剑桥大学，在爱丁堡大学获得人工智能博士学位，主攻神经网路方向。

在神经网路备受质疑的时期，他没有动摇对这一技术方向的信念，接连提出了反向传播算法、波尔茨曼机，在数十年后，深度学习取得爆发性进展，他的研究才被更多 AI 同行认可。

博士毕业后，Hinton 前往美国卡内基梅隆大学任教，几年后，他对美国 AI 研究由国防部赞助感到不满，离开美国前往加拿大，在多伦多大学电脑科学学院任教至今。

研究神经网路 40 年后，Hinton 与学生 Alex Krizhevsky 和 Ilya Sutskever 提出卷积神经网路（CNN）架构 AlexNet，震撼业界，重塑电脑视觉领域，开启了深度学习的黄金时代。

2012 年 NIPS 大会期间，来自全球的科技巨头向 Hinton 抛出橄榄枝。Hinton 与两位学生成立公司 DNN-research，随后以 4400 万美元天价卖给 Google。他本人也加入 Google，负责 Google Brain 的部分研究工作，title 是 Google 副总裁和 Engineering Fellow。

他的两位爱徒之一，Ilya Sutskever 在加入 Google 两年后离职，加入新创办的研究机构 OpenAI。

因为深度学习的研究，Hinton 与 Yann LeCun 和 Yoshua Bengio 一起获得 2018 年图灵奖，英文世界将他们称为「AI 教父」（Godfathers of AI），中文世界习惯将他们称为「深度学习三巨头」。

上文提到，Hinton 在 GPT-4 发布之初还对其讚誉有加。事实上，Hinton 也一直在思考 AI 可能会带来的危险。

在 3 月初接受 CBS 採访时，Hinton 表示：

他对「AI 威胁人类」有些担忧，对于「AI 是否会毁灭人类」，他「认为这并非不可能」，「但是，令我担忧的是政治局势，确保每一个人都明智行事，是一个巨大的政治挑战」。

「很多个体会追求正确的道路，但企业不一样，利润动机可能不会让它们像为它们工作的个体那样谨慎。」他说，「我只真正了解 Google，这是我唯一工作过的企业，他们一直是最谨慎的企业之一。」

然而，Hinton 并不是 Google 的决策层，经历了过去一个多月 AI 日新月异的发展后，Hinton 的想法发生了转变。 也许他已经看清，就连 Google 内部也不知道谁在决定 Google AI 的发展方向。

飓风中淩乱，下一个离开Google的是谁？

在《纽约时报》发文之后，Hinton 很快在推特上回应，称报导似乎意指他离开 Google「是为了批评 Google」，但实际上，他是为了能够警醒人们 AI 危险性的同时不伤害到 Google（考虑他副总裁的身份），「Google 的表现很有责任心」。 但一直作为人工智能领先代表的 Google ，很明显也在这一局的 AI 竞争中落入了下风，Bard 公开演示的一场失误，让 Google 市值少了将近千亿美元，而到现在，Google 还没有正式推出能与ChatGPT相抗衡的产品。

我们之前文章阐释了为什麽 Google Brain 没能在 AI 竞赛中摘得最终的桂冠。

近日，科技媒体 The Information 最近的一篇特稿梳理了 Google 目前的一些问题，以及 Alphabet CEO 桑德尔·皮查伊（Sundar Pichai）所陷入的困境，我们快速整理了文章的一些要点。

• 自从 2019 年出任 Alphabet CEO 以来，Pichai 一直面临着诸多困难：内部权力斗争、来自监管机构的严格监管、员工向管理层的施压、以及来自前任拉里·佩奇的潜在压力等，Pichai 甚至在内部表示会在几年后辞去职位。

• 与微软 CEO 纳德拉相比，Pichai 权力较小，更注重控制成本，这有利于他在佩奇时代获升迁, 但也使 Alphabet 在人工智能等新技术方面投入不足。而且 Pichai 的权力和影响力较小，难以调遣高管们採取行动，难以有效调和 DeepMind 和 Google Brain 的业务发展沖突，这会影响 Alphabet 的发展方向和速度。

• Pichai 的管理风格不一定适合 Alphabet 当前面临的挑战，他是否适合继续担任 CEO 仍受质疑。Pichai 更偏向技术，但现在必须应对 Alphabet 整体的困境，这可能超出他的能力範围了。根据 Alphabet 现任和前任员工的说法，公司上下普遍认为，他可能不适合这个时候继续担任执行长。

• Pichai 的低调风格并不总是有助于他处理任期内出现的各种小争议。举例来说，在新冠肺炎疫情之前，Pichai 经常因为员工抗议 Google 包庇曾性骚扰同事的「安卓之父」安迪·鲁宾而遭到批评。出现的其他有争议的问题还包括 Google 与美国军方的合作等等。

• Alphabet 的官僚主义文化和高管的风险规避阻碍了新产品的推出，从而导致 Alphabet 在人工智能等领域落后于竞争对手。Lamda 聊天机器人（Bard 前身）开发人员在 2021 年集体离职，是因为他们的技术不被允许应用到 Google Assistant；Google 早就开发了文本生成图片的技术 Imagen，但出于风险考虑，一直没有发布，结果被 Dall-E 2 抢先。

• Alphabet 新项目难以落地实施，TikTok 带来的威胁促使Google採取行动，数百名员工被分配到一个被称为「重要的搜索转移」（Great Search Shift）的项目中工作。该项目原计划全面升级搜索引擎，但 Pichai 最终选择只对搜索引擎的外观和感觉做最小的改动。曾担任佩奇顾问的卡尔·巴斯（Carl Bass）表示：「Alphabet 一直故步自封……在这种情况下，很难推动员工前进。」

• Alphabet 近来加快推出人工智能产品以追赶竞争对手, 但在技术、人才和资金上面临各种障碍。在 2022 年 11 月推出 ChatGPT 之前的几个月里，OpenAI 从Google挖走了不少研究人员和工程师，这些前 Google 员工在 ChatGPT 的推出中发挥了重要作用。

• 成本的限制，不少员工表示，将聊天机器人整合到 Google 中可能会增加成本，因为用聊天机器人进行查询比提供常规搜索结果更昂贵。Google 虽然在 3 月份发布了 Bard，但限制了它可以做的事情，并且只针对相对较小的用户群体，这在一定程度上是一种节省成本的措施。

• 即使如此，Google 的前员工和不少在职员工表示，Google 仍然比竞争对手有优势，这要归功于丰富的人才库和训练複杂的机器学习模型所需的硬体优势。一些人认为，Pichai 曾担任产品经理的背景正是该公司将人工智能研究转化为产品所需的。Pichai 监管 Chrome 等成功产品的履历表明，他可能会成功应对Google的最新挑战，毕竟，能成为 Alphabet 的 CEO，并不能只靠运气。