《造神之后》贯通大语言模型、世界模型、AGI、智能涌现、AI 对齐、智能爆发、群体心智、全球协作与认知偏差等前沿议题，从技术、进化、权力、文明和个体心智多个层面，重新思考人类与 AI 的关系。
>>内文选读：
序言：AI 降临，见证地球生命史的演化高潮
1983 年，在为小众期刊《威尔逊季刊》撰写一篇关于 AI 的文章时，我采访了一位名不见经传的计算机科学家，他名叫杰弗里 · 辛顿。辛顿倡导的 AI 研究路径在当时并非主流，但正如我在文章中所写的那样，" 有些人将这一路径奉为 AI 的新潮流 "。
在我与辛顿那场交谈的 40 年后，我在《纽约时报》上看到一篇关于他的文章，文章称他在部分领域被誉为 "AI 教父 "。显然，他所推崇的研究路径取得了成功。
这一路径就是后来的 " 生成式 AI"，该项技术历经多次革新与迭代，辛顿在其中发挥了重要作用，最终推动它取得了突破性进展。生成式 AI 能够创作图像、文字，以及其他传统意义上由人类创造的事物。在《纽约时报》这篇文章发表前的几个月里，以聊天机器人 ChatGPT 为代表的生成式 AI 席卷全球，有人为之惊叹，也有人为之恐慌。
事实证明，辛顿也属于感到恐慌的人群中的一员。《纽约时报》这篇报道的标题是《"AI 教父 " 离开谷歌，警示未来风险》。过去几年，AI 的智能水平提升速度远超他的预期，因此他也开始担忧这一趋势可能带来的后果。
辛顿在这篇文章中提及的具体风险如今已广为人知。AI 可能会造成以下问题：第一，夺走人类的大部分工作；第二，让人类更难辨别信息的真伪；第三，以难以预测的危险方式行事；第四，被不法分子以直接或间接的方式利用。
除此之外，他还强调了第五点：从人类的角度来看，AI 可能会成为作恶者。它会变得极其聪明与强大，脱离人类协助自行运转。到那时，它或许会判定人类对它已无利用价值。
《纽约时报》这篇报道发布后不久，辛顿如此描述这一前景：好消息是 " 我们找到了创造永生生命体的方法 "，坏消息则是 " 这份永生或许不属于人类 "。
随着这篇报道的刊发，辛顿加入了被称为 "AI 末日论者 " 的阵营。而他所描绘的末日景象，即人类族群毁于这种聪慧却无情的超级机器之手，又让他跻身 AI 末日论者中的一个小众分支，我们不妨称之为 " 科幻派 AI 末日论者 "。他们认为，AI 会变得无比聪慧、强大到近乎神明，遗憾的是，这位神明并不会善待人类。他们预判，人类族群即便不至于彻底消亡，也终将向冷酷无情的超级智能拱手交出全部自由。
与科幻派 AI 末日论者相对的是另一群人，他们时常被称为 " 加速主义者 "，这群人希望 AI 的发展速度越快越好。在他们的构想中，世界将遍布 AI 缔造的奇迹，在这个世界里，疾病、贫困和其他人类苦难都将逐渐消失。
除了同样充满狂热，许多激进的加速主义者和激进的科幻派 AI 末日论者还有一个共同点：那就是他们都相信即将到来的技术 " 奇点 "。奇点指的是 AI 开始自主实现递归式自我提升的节点――它会修改自身算法，让自己变得越来越智能，进而越来越擅长优化自身算法。一旦这种 " 递归式自我提升 " 启动，技术进步的速度就会急剧加快，快到 " 进步速度 " 这个词都不足以形容这一过程。届时会发生 " 智能爆炸 "，地球上的生命将被彻底改变，而结果好坏则是未知。
那么，最终结果是好是坏？加速主义者和末日论者，谁的观点又是正确的？事实上，" 奇点 " 这个词本身就暗含着：答案或许根本无从知晓。这个词源自物理学，原本用于描述黑洞，指代一道无法穿透的模糊边界，越过这个边界，现有理论便不再具备预测能力。或许某种速度的技术变革会带来颠覆性的影响，让我们无法预知未来的模样。
或许真的如此，但加速主义者和坚定的科幻派 AI 末日论者都没有退缩，他们凝视奇点，认为自己看清了未来大致的模样。
我之所以写这本书，是因为有以下 4 个目的：
1. 我想让你相信，如果你没有处于这份敬畏的谱系之中，没有感受到一股磅礴的力量正在逼近，那你就没有看清全貌。我相信，在 AI 革命落幕之前，这场变革会是人类历史上，对人类生存体验与人类社会的冲击最为迅猛、影响最为剧烈的一次。
2. 我想让你相信，我们有办法将人类未来引向敬畏谱系中更美好的一端：打造一个 AI 的益处远大于隐患的世界，一个充满奇迹的世界，一个人类蓬勃发展的世界。在这个世界中，人类不仅能收获幸福，还能找到意义与目标，即便身处无比智能且强大的机器之间，人类依然能葆有自由。
3. 我想让你相信，要实现将这场变革与人类的幸福、满足和自由相融的这一目标，人类的思维模式需要做出重大的转向。政治家、企业领袖和其他掌权者需要正视即将到来的变革的巨大规模，以及它带来的具体挑战。我们普通人也需要如此，一部分原因在于，这些掌权者中愿意认真审视、考量局势的人寥寥无几。
接下来是比较奇特的一点。
4. 我想让你相信，无论加速主义者和科幻派 AI 末日论者的世界观听起来多么宏大，从某种意义上来说，这些格局都还不够大。在评估 AI 革命的意义时，这些人往往将其置于过去百年或数百年的技术变革背景中。部分人的格局更为宏大，他们将当下放在整个技术变革史中看待，从广义上看这段变革史已跨越了百万余年时光。还有极少数人看得更远，毫不夸张地说，我属于看得更远的这群人。我认为我们需要把视野拓宽数十亿年。我相信，AI 的到来不仅是技术史、人类史上的重要转折点，更是地球生命史上的关键节点。
从这个视角看待 AI，能帮助我们构想并塑造未来。我们无疑正进入一个加速变革的阶段，这场变革或许配得上 " 奇点 " 这样极具冲击力的标签。但我和科幻派 AI 末日论者、加速主义者有一个共同观点，那就是这个词所暗含的 " 不可预知 " 含义是具有误导性的。未来的不同发展路径是可以辨明的，我们需要做出的选择也十分明确。
考虑到这场即将到来的变革规模如此宏大，这些选择自然涉及诸多方面。我们面临的挑战不仅是政治层面的，即制定完善的法律与监管规则；也不仅是更广泛的治理层面的挑战，尽管这一点至关重要；这场挑战还关乎道德，甚至精神层面的挑战。
