AI 摧毁人类社会结构？Google AI 教父 Hinton 带你看懂 AI 末日录

曾为 Google 深度学习核心人物、素有「AI 教父」之称的 Geoffrey Hinton，于 6/16 受访时谈及目前 AI 带来的风险。他认为，AI 带来的第一层风险，其实不是来自机器本身，而是来自人类的贪婪与毫无节制地滥用，从诈骗、网路攻击到舆论操弄、社会分裂与无人军武的开发，都显示 AI 已被用在许多破坏性的应用上。他感叹：「未来 AI 将开始不需要人类。」

滥用 AI 已是进行式，真正致命的是 AI 不再需要人类

Hinton 将风险分为两种，第一种是「人类滥用 AI」，而这类问题已陆续爆发。他举例像是诈骗集团用 AI 伪造、网路攻击、AI 制造生化武器、操控选举、AI 军武等。

但 Hinton 更强调 AI 最致命的风险，就是自身的「进化能力」。他表示，现在的 AI 不只会依指令工作，更能学习、推理，甚至自行改写程式码。一旦演化成「超级智慧」，将拥有超越人类思考速度与优化的能力。

他更担心某一天，假设 AI 认定自己再也不需要人类，并意识到人类阻碍它们发展，很可能会开始消灭人类。笔者想到小时候看的《机械公敌》，片中人类因「机器人三大定律」的限制，对机器人充满信任。但最后中央控制系统控制机器人大军，并对人类发动战争。

特别的是，Hinton 也描述「 AI 反抗人类」这种情境不再只是电影里桥段，未来 10 到 20 年内可能会在现实中发生。

(注：机器人三大定律为机器人不得伤害人类，或坐视人类受到伤害； 除非违背第一法则，机器人必须服从人类的命令；在不违背第一及第二法则下，机器人必须保护自己。)

AI 不只取代工作，还重塑人类社会结构

与其说 AI 会造成大量失业，不如说它会彻底摧毁某些职业的存在意义。Hinton 分享自己姪女的案例，原本 25 分钟回一封客诉信的工作，现在 AI 让她 5 分钟内完成，等于一个人能做五个人的事。

有企业主更直言自从 AI 出现后，直接把客服人数从 7,000 人精简到剩 3,000 人，节省成本又提高效率。Hinton 打趣地说，如果想找稳定工作，还不如现在就去学做水电。

但 Hinton 随后表示，借由 AI 所创造的财富集中在少数科技巨头与富人手上，对于一般人来说，即使政府提供基本收入，仍可能在失去「被需要」与「归属感」后，陷入大规模的身分认同危机与社会动荡。

国际货币组织 (IMF) 与多国智库也警告过，AI 会加剧贫富差距，进而颠覆整个就业市场与全球稳定秩序。

全球各国需加速立法，以制衡 AI 发展

面对这样的未来，Hinton 认为个人努力非常有限，就像气候变迁不是靠少数人把垃圾分类能够解决。他指出，真正的解决方案是，各国政府要开始立法，强迫企业在推进 AI 的同时投入安全设计，否则人类根本没有机会制衡 AI 。

他也批评欧盟的 AI 法案排除军事用途，等于放纵最危险的应用领域，对 Hinton 来说，更深层的无力感，是目前根本没有任何一个国际组织能有效约束 AI 巨头。

最后 Hinton 表示，他不敢保证人类未来能否成功避开毁灭，但只要还有一丝希望，就应该倾尽全力去阻止最坏的剧本发生。

(GPT 变得有点诡异？三大事件揭露 AI 的潜在失控风险)

这篇文章 AI 摧毁人类社会结构？Google AI 教父 Hinton 带你看懂 AI 末日录 最早出现于 链新闻 ABMedia。