在经历了漫长的等待和难产后，8月8号，GPT-5 终于发布了。
还是有不少国内的媒体将它称作"史上最强的基础模型"，但实际上，外网关于GPT-5 的质疑声却很汹涌——发布会的内容中，出现了伪科普和演示乌龙， GPT-5 的性能进展在一些人看来，远未及预期。
在这个节点，我对话了OpenAI 的两位前科学家：Kenneth Stanley 和 Joel Lehman；他们曾亲历前 ChatGPT 时代的 OpenAI ，也是《为什么伟大不能被计划》一书的作者。（播客早在9月就已发布，文字版刚发布，见谅）
2023 年，这本书曾在中国科技圈掀起阅读的潮流。那正是 ChatGPT 席卷全球，掀开大模型浪潮的一年。然而，Ken 和Joel 却选择了离开 OpenAI 。早在 2015 年，他们就抛出了独特的观点——创新需要摒弃对目标的追求感、并追求新奇性，所有伟大的创新都是不期而遇的。
当时，这个论点并没有被太多人认知和接受，直到2022年底 ChatGPT 出现，这一论点被强有力地验证了，因为，ChatGPT 本身就是一个意料之外的项目。
三年过去，Ken 和Joel 仍在持续推动"无目标创新"的理念，两位AI科学家也始终保持着对AI圈的关注。在这期访谈中，我们聊到了 OpenAI 的发展史、其本身就是创新曲线的一体两面。当 GPT-5 出现，Ken 和 Joel 却在一片失望声中表示，这也许恰恰意味着，关于 AI 的研究将再次变得有趣——要知道，过去几年，尽管全世界都在瞩目与追逐大模型的进展，但在他们看来，和从前相比，学术界正在变得无聊。
这是两位关于创新的布道者。这期的内容围绕AI，却又不止于 AI 。
以下是访谈节选，为了提高可读性，进行了一定文本优化。
一、不告诉机器人目标在哪，它能更快地走出迷宫
卫诗婕：《伟大》这本书的中文版诞生是在 2023 年，彼时 OpenAI 已经举世闻名——这本书的宣传点之一是，你们二位作者是 OpenAI 的核心科学家，但事实是，你们早在 2015 年就写下这本书。当 ChatGPT 出现时，你们是否意识到，本书中关于"如何孕育创新"的主张，被有力地验证了——因为 ChatGPT 原本就是一个意料之外的项目？
Kenneth ：是的，没有人意识到 ChatGPT 会有这么大的影响力，这和我们在书中所述的"巧合"是一致的。
Joel：不仅 ChatGPT 的成功出人意料，所有通向它的小的垫脚石（Stepping stones）也出人意料，比如 ChatGPT 所基于的 Transformer 神经网络架构，它来自谷歌的研究。而且，OpenAI 最初进行的很多探索都与语言模型毫无关系。他们有一些研究，比如制造能玩魔方和玩电子游戏的机械手，这都非常酷且令人兴奋。
卫诗婕：这本书深刻地探讨了创新土壤的构成。一切的故事要从 2008 年开始，我知道这本书最初的灵感来源于 Kenneth 在一系列实验中的意外发现（比如让机器人学会行走、让机器人走出迷宫），对吗？
Kenneth：实际上，我认为在机器人之前，还可以追溯到图像培育器（Pick Breeder），它是我们为了构建"开放式系统"而进行的一项实验。
"开放式系统"是指那些，能够长期持续创新、做出决策和发现的系统。人类文明就是一个开放式系统。
为了构建一个"开放式系统"，我们设计了 Pick Breeder 这个实验：人们会登陆一个网站，看到一堆图像，点击其中一个，这个图像就会产生"后代"。就像人生小孩一样，"后代"会与"父母"稍有不同。你所做的就是，让图像一代一代地"繁衍"。
而促使我们撰写这本书的动力，是因为我们发现了一个特别的观察结果：发现伟大事物的最佳方式是不去刻意寻找它。
例如，如果你想要找一只鸟，你总是会失败，只有在你不刻意寻找时它才会出现。如果你只想着蝴蝶，你就不会培育出和蝴蝶有关的图片。
这个结果令人震惊。它似乎与我所相信和被教导的一切都相矛盾。我有着计算机科学和工程学背景，我所接受的教育是，实现某件事的方法是将其设定为目标，然后有目的地朝着它前进。但"Pick Breeder"的实验结果却恰恰相反，实现显著成就的最佳方式是不去刻意追求它。
我对这个观察结果着了迷。它太奇怪了，以至于我开始觉得它可能有更深远的影响。我开始意识到，多样性本身，可能才是成功的原因。而新奇性（ Novelty ），是获取多样性的一种方式。
Joel 就是在这时参与进来。我还记得第一次见面，他走进我的办公室，我把这些想法一股脑全倒给他。我说，也许你可以做一个专门搜索新奇事物的算法。他接受了这一切，也真的创造出了这个新奇搜索算法。这就是机器人开始登场的地方——我们用机器人结合这套新奇搜索算法做了一系列实验，比如如何让机器人最快走出迷宫，答案是，当你不告诉它目标在哪里时，它能更快地走出迷宫。我就不一一细说了，那太长了。
但 Joel 和我意识到，这件事的社会影响比算法本身更大——它可能对如何运行人类系统，有着重大启发，因为过去，几乎所有人类系统总是朝着目标设定的。
卫诗婕：为什么你认为，必须要写成一本书？
Kenneth : 有一次我参加一个 AI 会议，一名罗德岛设计学院（Rhode Island School of Design）的学生邀请我说，你应该来我们学校做一场演讲。这是一群艺术家听众，超出了 AI 学术圈，我有点兴奋。
但这超出了我的预期。当我告诉他们，创新并不一定要先明确目标，那些学生们非常激动，其中一些人几乎要哭了。因为他们说，我从来没能向父母或老师解释清楚我的选择，因为他们总会问，你怎么赚钱？ 你人生的目标是什么？你为什么要做这些毫无意义的事情？这是我第一次觉得自己能够清晰地阐述，为什么我决定以那样的方式度过一生，因为我在追寻有趣之路。
这让我更加明确了一个想法：如果我们能写出来，这可能会是一本很棒的书。如果人们会为这件事落泪，那它肯定很重要。这会是一场重要的社会对话。
二、回忆OpenAI 早期： 那时的Sam是个好领导
卫诗婕：完成这本书后，你们几乎同时先后加入了 Uber AI 实验室（2016-2019）和 OpenAI（2020 - 2022），为什么选择这两家公司？如何辨别一家创业公司是否有创新力？
Joel ：这很难先验地知道。但我想，一家有意思的初创公司通常是由有意思的人组成的，而有意思的人通常有有意思的想法。
Kenneth ：我和 Joel 加入这两家公司，有点像那本书里写的，都不是被计划的，只是机缘巧合。但2020 年，我就觉得 OpenAI 是一家好公司。OpenAI 有很多聪明的人，也在开展非常有趣的项目，所以会有一些创新并不奇怪。
至于如何识别有吸引力的初创公司，这取决于你是谁，一名投资者，和一名员工，评判标准是不同的。作为员工，我会看它是否符合我的兴趣？
而作为投资者，我的看法会稍有不同，我不会那么在意每一件事都必须成功。我应该把赌注押在那些足够创新、足够有趣的事情上——如果这件事成功了，那将会是巨大的成功，因为它与其他正在进行的事情截然不同。
足够新颖，就值得去冒这个风险。
卫诗婕：那时的 OpenAI 有哪些有趣的探索？
Kenneth：哦，2020年的OpenAI，我看到了早期的 GPT 模型，现在这已经是旧闻了，但在当时，技术进步得非常快，非常有趣，甚至令人震惊。现在，未来已经到来。
Joel ：那时真的很有趣，那里的确有很多聪明人。就像 Ken 说的那样，你能比其他人提前接触到一些新兴技术。那种体验超凡脱俗。
卫诗婕：（在 OpenAI ）你们最尊敬和喜爱谁？
Joel ：这是个有趣的问题。我非常敬重 Ken 。我们共同领导团队嘛。不过，要说个人喜好，我真的很喜欢 Jan Leike。他是那里的安全负责人，而且是个好人，我很喜欢和他聊天。不过，你知道的，在 OpenAI 有很多有趣的人，所以真的很难选……
Kenneth：这是个好难的问题。当然，我会选 Joel ，但是……我在那里尊重很多人。我尊重那里的大多数领导，我真的没有一个确定的答案可以给出。
卫诗婕：Sam 曾公开表示过对《伟大》这本书的推崇，但随着 OpenAI 的宫斗事件，Sam Altman 的公众形象也变得模糊和充满争议。我听到一种观点，认为 Ilya 是真神，而 Sam 是伪神。你们作为 OpenAI 曾经的一员，怎么看 Sam 对 OpenAI 的领导？他是个什么样的人？
Kenneth ：在 2020 年到 2022 年期间，我在 OpenAI 工作，这都是在那些争议事件之前。但在那段时间里，我觉得 Sam Altman 是个好领导。他务实、谨慎、善于沟通。他会仔细权衡问题。当时我没看到有什么可批评的地方。
对于 OpenAI 发生的争斗，我和大家一样感到惊讶。我没想到会这样，听到这件事真是个巨大的冲击。你知道，Sam 似乎牢牢掌控着局面，我没想到会有人试图罢免他。所以我和大家一样一头雾水，直到今天我也不清楚到底发生了什么。
Joel ：是啊，这就像是一连串非同寻常的事件，这一切的发生有点疯狂。你知道的，涉及大量金钱和权力，人们都在努力做自己认为最好的事情，却有着不同的观点。
三、AI这个领域， 过去比当下，要有趣得多
卫诗婕：随着 2022 年底 GPT-3.5 发布——当"开放性探索"的成果被看见后，全球人工智能行业就开启了激烈竞赛。你们当时在 OpenAI，是否感受到氛围的变化？你们在内部是如何感知的？
Joel：我想我可以说，随着时间的推移，有了明显的变化。当你有一款影响力如此巨大的产品，你就会开始转变，从单纯地探索转向更深入地追求某些东西。你能感觉到齿轮开始向更多地利用模式转动。
随着时间的推移，整体的关注度在不断上升，而这项技术本身其实相对简单——我指的是训练语言模型并在越来越多的GPU上使用更大的数据集，其他人也开始纷纷效仿。竞争就加剧了。
Kenneth：我想我会同意乔尔的观点，（OpenAI 内部）确实发生了一些变化，因为当你挖到金子时，你往往会专注起来，最具戏剧性的变化可能发生在我们离开之后，因为真正有感染力的 GPT 极大地改变了公司。
卫诗婕：具体的现象是什么？
Kenneth：公司的应用商业板块发展得很快。一开始它只是一个研究实验室，突然变成了一个强大的商业部门。所以公司内部的性质发生了变化。当然，他们还在继续做研究，但突然公司变得非常以商业为导向。
卫诗婕：2023 年的 OpenAI 面对着十字路口，左手边，是它来时的基因，作为一家非营利机构去继续探索前沿科技；右手边，是追逐成为下一个科技巨头；外界对于这家公司有怎样的误解吗？
Kenneth：2023年是在我们离开之后。所以我也只能猜测当时的情况。但我猜测他们不会用那么极端的措辞来看待这件事。我想，他们两者都想做，既想继续做一个伟大的研究实验室，也想利用商业机会。那里的每个人都知道研究很重要。我想 Sam 也知道研究很重要。
但显然，摆在他们面前的巨大商业机会是不可能忽视的。毫无疑问，这将对公司的文化产生一些影响。
卫诗婕：你们是否为 OpenAI 氛围的改变，感到惋惜？
Kenneth：我并不感到遗憾。我认为我们正在目睹的变化是整个行业的变化。这不仅仅是 OpenAI 的问题。我的意思是，真正发生巨大变化的是AI。因为我从事AI领域已经很长时间了。从前的 AI 只是一个小型学科，今天它具有巨大的社会影响。当某件几乎像小游戏一样的东西突然变成世界上最重要的事情时，需要时间来处理和吸收，这是一个非常复杂和艰难的过渡。
卫诗婕：那 Joel 呢？
Joel：我觉得我有点遗憾，并不是对新革命之前的研究有怀旧之情，而是从前有更多样化的事物，还有很多有趣、疯狂的研究。但是现在语言模型的论文实在太多了。我有种感觉，语言模型相关的东西在社会中传播得太快了。它超级有趣和令人兴奋。而且我一直在使用这些工具。但是这个领域的过去比现在更具趣味性。
尽管规模化（Scaling）也是一门重要的科学。但不知为何，对我来说，仅仅是让规模发生效应的技术，在智力上的吸引力要小一些，即便这样做会带来惊人的结果。
卫诗婕：你们个人更希望 OpenAI 成为一家伟大的商业公司，还是一家伟大的研究机构？
Joel ：我认为 OpenAI 的遗产肯定是作为一家伟大的研究机构，尽管目前它更多是以商业巨头而闻名。我想我一直期望它有点像研究机构，我加入的时候没料到它会成为一个商业巨头。
Kenneth：对我来说也是如此，它变成这么庞大的商业组织，还挺让人意外的。2020 年的时候，它更像是一个研究机构，但在某些方面，这和我们的书是相符的——你在 2019 年看它的时候，根本不知道它的商业计划是什么。没有真正明确的计划才是取得所有成功的原因。OpenAI 只是机会主义地顺势而为。有意思的是，结果大获成功。
四、谈 GPT-5与可持续创新：无聊了很久，AI 领域再次令人兴奋
卫诗婕：此前 GPT-5 经历了难产，前几天 GPT-5 刚刚发布，有人认为 OpenAI 开始了挤牙膏式的创新。你们怎么看？
Kenneth：嗯，让我想想。我认为目前 AI 存在一个普遍问题，即过去几年一直遵循的仅依靠扩展和数据的路径（Scaling Law），是否真的是通向 AGI 的道路？有趣的是，我们看到了 Scaling Law 放缓的迹象。似乎人们在这个问题上存在分歧。
我认为，扩展路径本身并不能一路通向所谓的圣杯，它并非是智能中唯一重要的因素。如果仅仅沿着这条路径走下去，新模型并不总是会带来革命性的成果，这也不令人意外。
但实际上，作为一个研究人员，我恰恰认为现在是一个非常有趣的时期。进展有所放缓，就有空间让更多有趣的想法进来，开展新的工作。从研究角度来说，AI 这个领域可能会再次变得令人兴奋。
Joel ：我觉得可以毫不夸张地说，从 GPT 3 到 GPT 4的飞跃，要比从 GPT 4 到 GPT 5 的飞跃更深刻。为什么会这样？我觉得沿着 Scaling Law 的这条路径，有点后劲不足了。再说一次，这更多只是我个人的想法。
我怀疑情况就是如此。当下，这些模型的训练方式与人类理解事物的方式相比，有些奇怪，而且它们可能只是未来发展的垫脚石。我不认为 Transformer 是这个故事的终点。所以我很期待有不同的东西出现。
卫诗婕：OpenAI 的故事是否告诉我们：一旦"开放性探索"成功了，成果被看见，就容易引来强竞争，亦或是出现各种诱惑，来破坏这种创新氛围——这是否很难避？
Kenneth：是的，我认为这是一种难以避免的危险。纵观历史，我们会看到创新者做出了革命性的事情，成为顶尖人物，但后来却被某个不知名的新创新者所颠覆，这样的故事在不断发生。
确实存在这样一种现象：巨大的成功可能会让你开始趋于保守。这是一个深层次的问题，因为不仅仅是某人失去了创新的意愿，还在于，你曾经走过的创新之路不会有第二次成功。
你在取得惊人发现的道路上，遵循了某些原则和启发式方法而获得了成功，你认为你可以再次这样做，但实际上，下一次创新总会有不同的故事。过去有效的模式，不再是未来有效的模式，我认为所有创新者都会落入这个陷阱。
Joel ：这就是为什么，有些创新者每隔大概 10 年左右就会重塑自己。要对抗自己的本性、直觉、好奇心，这真的很难。
卫诗婕：你们如何看待 Google ？它既是一家伟大的商业公司，同时也是 AI 研究的发源地。
Joel ：是的，提到谷歌就提到了一个非常有趣的地方，他们发明了 Transformer 架构，而正是这个架构真正引发了语言模型革命。作为一家大公司，在部署这项技术时，他们可能确实更加谨慎一些。这也未必是件坏事。我记得，谷歌之前就有类似聊天的模型。
卫诗婕：Google 最早发现了大模型的方向，却错过了 GPT 。并流失了大量 AI 人才。
Joel ：是的，不过，一旦这个巨头被唤醒，我认为现在他们基本上已经和 Anthropic 以及 OpenAI 势均力敌了，他们在某些方面可能已经迎头赶上了。但确实，作为一家更大的公司，它可能更加官僚化，以及因为被自身的成功所吞噬，而会出现的种种情况。这就是一个不断重演的故事，但他们仍在继续进行出色的研究。
Kenneth：OpenAI 是一场意外的颠覆。很明显，看着源自谷歌的东西以这种方式发展，对谷歌来说是个痛苦的故事。但这就是创新的永恒故事，它一次又一次地上演。就像柯达被数码摄影颠覆后，也没能重新站稳脚跟，这类故事在科技领域一直都在上演。不过，我认为谷歌，就像 Joel 说的，在一定程度上已经重新站稳了脚跟，所以现在它颇具竞争力。而且 DeepMind 肯定取得了一些相当大的成就，甚至在语言模型之外，比如 AlphaFold 等方面。但他们确实错过了一个时机。我敢肯定，他们对此感到遗憾。
卫诗婕：在成熟企业中，如何避免目标管理扼杀创新？
Kenneth：这是一个大问题，也是对谷歌这样的公司非常重要的问题。为了创新，有时你必须放弃一些目标。我认为，随着公司的成熟、占据主导地位并取得巨大成功，这些大公司更有可能以目标为导向。像谷歌是 OKR 和 KPI（即 OKR 目标和关键结果）的推广者之一，这些方法在整个行业都有应用。这有点像一个强化循环，目标让我们取得了成功。于是我们设定更多的目标。在那种环境下，实际上很难说我们要废除官僚主义，去掉目标，让一些人去做有趣的事情。大公司在这方面很挣扎。
大公司会说，我们像谷歌那样建立一个研究实验室，比如谷歌大脑之类的。每个人都应该很高兴，但实际上发生的情况是，人们清楚，最终还是会根据公司的 OKR 来进行评估。他们能看到，同事得到晋升是因为他做了有助于谷歌盈利的事情。看到这种情况时，你会想，他们嘴上说关心这个，但得到奖励的却是那些真正推动目标实现的人。所以我也会对这种信号做出回应，因为我也想今年拿到奖金，也想涨工资。
这就是为什么初创企业往往具有颠覆性优势，因为如果在大公司内部设立一个创新实验室，不在实验室的人就会变得嫉妒和愤怒。实验室里的人不必帮助推进目标，他们可以做任何他们觉得有趣的事情。那么其他人就会说，"为什么那些人可以这样做呢？ 他们拿着这么多钱，像孩子在操场上一样无所事事"，这对大公司来说存在文化风险。整个矛盾之处在于，从创新的角度来看，做一些无用之事实际上是最好的做法。
所以我认为大公司面临的挑战是巨大的，需要、真正的勇气去面对。你告诉我今年必须完成 X 目标，否则我就不给你加薪。这样我会感到安全。反而你告诉我可以随心所欲地做事，这让我感觉不安全。这就是我们这本书的意义所在，我认为它是为了赋予人们这种勇气。
我希望这些公司的领导层能读一读这本书，不是因为这会帮助乔尔和我赚钱，对我们来说那只是微不足道的一笔钱。而是因为它可以改变公司文化，这可以赋予他们力量，让他们做出这些非常艰难的决策，比如当有人创建一个创新实验室时。真正保护它并让它发挥应有的作用，人们需要这种勇敢的变革。
卫诗婕：我确信很多中国创业者已经读过《伟大》这本书了。但一段有关 OpenAI 的历史是：成立于 2015 年的 OpenAI ，在早期，曾鼓励学者们主动探索各类前沿方向，这听起来是符合你们的主张的——自由探索而非规划；但两年后，数亿美金即将烧完。这背后一个关键问题是："开放性探索"真的可持续吗？那可能意味着更多的资源投入，谁应该来为这种"开放性探索"买单呢？
Joel：在某些特定的环境下，开放和探索是可持续的。大学，有基础研究，基础研究通常由公众资助。长远来看，公众的收获会大于投入。这种投资是有回报的，而且回报相当可观。但当你试图在企业环境中进行开放和探索时，情况就变得更加棘手了，因为企业有一个必须遵循的时间框架，在这个框架内，你会面临优化利润的压力。
在最坏的情况下，如果你赚不到足够的钱，公司可能就会倒闭。所以我认为，只有那些根基稳固的公司才真正有自由去尽可能广泛地进行探索。但即使是考虑一些更有限的探索方式，也仍然是有用的。
Kenneth：我认为只要公司健康，开放式探索绝对是可持续的。所以我认为成功不应成为开放式探索的阻碍，就像那些人们勉强能吃饱饭的社会是不会有创新的。创新只在你有能力承担风险的情况下才会开始发生，因为这并不意味着你会死亡。挺违反直觉的是，很多人认为成功会破坏做这件事的能力。但恰恰，因为你成功了，你才能够继续在创新上投入。再补充一点，小公司也可以进行开放式创新，这绝对是有可能的。
卫诗婕：2017 年的 OpenAI 在资金即将烧完的背景下，最终选择将所有资源和人力聚焦于大语言模型，这才孕育出后来的 ChatGPT 。——这是否与"伟大无法计划"冲突？在发散和收敛之间，如何掌握微妙的平衡？
Joel：这很有趣。
Kenneth：我们 2020 年到 OpenAI 时，他们所做的不仅仅是语言模型。所以我不认为他们完全专注于语言模型，但我相信你说的可能是已经做出了一些决策。也许有人认为在这方面加大投入是一条前进的道路，我对此并不知情。但这是有可能的，且与书中的观点并不矛盾，因为我们的书并不反对信念。
我们并不是说永远不能做决策，如果你强烈感觉某条道路很有趣，我们的书会支持你走下去。只是我们想说的是，你不应该仅仅因为认为它会通向某个目标，某个遥远的目标，就选择走那条路。
如果 OpenAI 在 2017 年决定投资语言模型，他们绝对没有意识到或预料到 ChatGPT 会在大约六年后或七年后被创造出来。所以，2017年 这一决策的目标可能更多是一种信念，即这是一项有趣的技术，显然，事后看来，这是一个很棒的信念。我的意思是，GPT 1 之类的，它当时就是垃圾。它在任何方面都不是一个好产品。
但它非常有趣，而当时有勇气在这方面投入更多的人是非常聪明的人。
Joel ：有一种有趣的现象，你可能会通过收敛来展现出发散性。OpenAI 就是这样一个例子，从早期开始贯穿始终的信念就是，扩大神经网络规模会产生有趣的结果。作为一家公司，我们在这个假设上达成了共识，而其他人并没有真正达到同样的信念程度。
真正有高度信念的东西，它会有回报。研究将继续进行，在整个系统中建造更多的垫脚石，希望能继续朝着这个方向发展。
五、AI竞速赛中，目标的欺骗性
卫诗婕：你们怎么看持续至今的关于人工智能的竞速赛？你们提出了"目标的欺骗性"，这在今天的 AI 竞速赛中是否有体现？
Kenneth：这肯定在竞赛中有所体现。你总能看到这些基准测试的报告，比如一些数学测试和编程测试，比如我们看到AI 实际上能够在数学奥林匹克竞赛中取得成功并获得金牌。从基准（benchmark）的角度来看，这是一项了不起的成就。
但这正是我们的书所警示的：这样做可能对创新有害且具有欺骗性。某种意义上，我们可能会看到这些测试的分数提高了，但最初我们认为的智力水平实际上并没有提高。如果 AI 达到了博士水平，为什么它没有发明出很多新的数学成果呢？
可能正在发生的事情是，我们正走在一条具有欺骗性的道路上。有意思的是，这似乎并没有引起更多的担忧。人们会说，哦，它会来的。现在，每次新模型发布时，这些得分都会立即公布，该模型在基准测试中的表现会比其他所有模型更好。如果你仔细想想，就会觉得可疑。实际上，我们是在迎合基准测试，而不是追求另一个东西，即智能。
执着于某些特定的目标，会让我们失去大局观。失去大局观就是一种自欺欺人。
Joel ：是的，我完全同意肯的观点。基准测试可能具有误导性。如果回顾一下 AI 的历史，我们以前经历过这样的周期，大约 20、30 年前，神经网络曾令人兴奋，然后在我认为是《感知机》这本书出版后，它们就不行了。然后它们经历了寒冬、盛夏，等等。
卫诗婕：潮起潮落。
Joel：对，起起落落。我们不认为这就是故事的终局，如果 AGI 近在咫尺，我不知道我们是否做好了准备，但不管怎样，我可能还是会一头扎进去。不过我确实认为这里存在很大的欺骗风险。
卫诗婕：从创新氛围来看，今天硅谷或全世界的创业公司里，哪家公司最像当年的 OpenAI ？
Kenneth：当年是什么时候？你是指 OpenAI 成立的时候吗？
卫诗婕：2020 或 2022 之前的 OpenAI 吧。
Kenneth：这是个好大的诱惑，我很想引用我们自己公司的例子。这没问题吧？启动一个新的开放式实体团队的感觉，让我想起了创立 OpenAI 时我们启动开放式实体团队的情景。
卫诗婕：那你能更多地介绍一下 Lila 这家公司吗？
Kenneth：好的，我和 Joel 最近都加入的 Lila 科学公司，正试图创造所谓的科学超级智能。它采用了超级智能这个概念，这也是很多公司都在谈论的话题。但 Lila 特别将其目标指向科学，即科学本身的进步。
这些假设中有几个独特的方面：其中一个是，目前我们不会真正看到伟大的科学革命，而这正是许多公司都在谈论的——当我们实现超级智能时，真正巨大的好处将是会有新的药物、新的能源、新的材料，所有这些科学革命都将因为超级智能而到来。但 Lila 认为，仅靠互联网数据是无法实现这一点的。你必须与现实世界进行实际互动，才能检验假设、获取更多信息，因此，当我们汇聚了各种不同的科学专业知识，最终也会产生一种与其他前沿实验室（在探索的）不一样的智能。
从另一个角度看，科学是你能接触到的最具开放性的事物之一。它就像是一棵永无止境的发现之树。
Kenneth：Lila 的规模有点类似于我们加入 OpenAI 时的规模。这是一个紧凑、敏捷且灵活的环境，适合尝试新事物。而且每个人都对接下来要做的事情感到兴奋。那种感觉是，下一个重大事件将在这里发生。Joel ，在某种程度上，我当时对 OpenAI 也有这种感觉。
卫诗婕：没有其他来自硅谷的公司从你脑海中闪过嘛？
Kenneth：我并不是要刻意回避提及其他公司。毫无疑问，硅谷正在涌现创新成果。但我们面临的问题是，下一个重大突破在显现之前总是无形的。我很难有十足的把握去确定它，开放是一个巨大的现象。如果我知道，我会告诉你的。
卫诗婕：你们怎么看 2025 年 AI 的发展？发展得很快、令人兴奋吗？
Joel ：它似乎仍然在快速发展。编码模型（Coding）让我感到很惊喜，今年似乎是人们开始使用 AI 编写代码的一年，这真的很了不起。它们并不完美，也有一些粗糙的地方。但在我看来，这似乎是一个核心的实际发展。
Kenneth：但 Coding 带来另一件事，就是你突然要调试一些你不理解发生了什么的东西，因为你没有编写代码。而且这比过去调试要花费更多的时间。所以我们同时面临着这种巨大的加速和另一种减速。大家相信随着这些的改进，bug 会随着时间的推移而减少。所以加速会越来越快。但它正处于一个有趣、微妙的转折点，看看它从这里走向何方很有意思。
卫诗婕：你们有留意到 Deepseek 的创新吗？
Joel：嗯，我想很难忽视它，至少在某种意义上，它给人带来了巨大的冲击，股市也因此受到了影响，这是一项超级成就。显然，这是在不断演变的竞争动态中的又一步，你知道，哪些国家的哪些团队和哪些人正在创造世界上最好的模型。而且，我认为中国一直在努力追赶美国在这方面的步伐。
卫诗婕：我还留意到因为 Deepseek 的出现，硅谷对中国 AI 创业公司的态度都改变了。
Kenneth：确认一下，你说的变化是指什么变化？
卫诗婕：硅谷现在会更注意中国 AI 创业公司。
Kenneth：哦，没错，我绝对是这么认为的，它肯定吸引了所有人的关注。自那一刻起，很多事情都发生了变化。
卫诗婕：当下中美科技竞争呈现比较紧张的态势，你们怎么看两国科技的发展，中美会走上不同的道路吗？
Kenneth：这已经导致了紧张的局势。我认为未来会发生什么非常难以预测。我们看到国际上的发展态势，有些事件似乎在推动各国走向分裂，但随后又有其他事件，令人惊讶的是，各国又走到了一起。所以很难说这一切最终会如何收场。
卫诗婕：你们有一个重要的观点"社会对‘目标管理’的迷信可能阻碍突破性创新"。从历史上看，中国是一个特别擅长制定计划的国家，我们也从这种规划性中获得了成果。你们怎么看中国科技未来的发展？有什么想要提醒中国的吗？
Kenneth：嗯，答案有点明显。你知道的，如果中国真的……喜欢规划。而我们的书叫《伟大为何不可计划》。那么可以提醒中国，我们的书可能作为一种很有趣的观点，是对潜在的传统成就观的一种反驳。我知道中国有很多规划，我不想过度简化，因为中国人对中国一定比我了解得多得多。就像乔和我都承认的那样，我们并不反对所有的规划，但在某些领域，特别是颠覆性创新领域，规划实际上可能是有害的。中国的未来是一个创新的问题，你们要努力找到适合自己的正确事情去做，中国得为自己进行创新。
Joel ：我听一些朋友说过，中国教育面临着诸多挑战，有大量的考试。在美国，我们也有考试文化，也许这提醒我们，这些考试所反映的内容可能并非我们真正关心的。如何分配顶尖教育机构的名额，这始终是个难题。我想，希望在于，应该有更人性化的方式来发现有潜力的人，而且人们参加的考试可能并不能真正反映他们的潜力，而更多反映的是他们专注于考试的能力。所以我希望，这一信息不仅适用于中国，也适用于美国，我们应该减少让孩子们经历不必要的考试。
六、"开放性"的价值实践，和人生哲学
卫诗婕：我看见 Ken 身后那幅中国书法了。你知道这三个字是什么意思嘛？
Kenneth ：是的，我想它的意思是开放性。
卫诗婕：没错，这是谁送给你的？是一份礼物吗？
Kenneth：确实是某个人送我的礼物。他们委托中国艺术家制作了这幅书法，然后邮寄给了我。它在某种程度上代表了我的研究领域。所以我把它挂在墙上，觉得非常不错。
卫诗婕：很漂亮，而且它与我们今天的采访有关。
Kenneth ：是的，没错。很有趣。
卫诗婕：随着《伟大》一书被全世界关注，你们的生活发生什么改变了吗？ Kenneth 离开 OpenAI 时，似乎有些沮丧和迷茫？离开后的三年里，你的沮丧好些了吗？
Kenneth：这是一段有趣的评论。如果当时我看起来沮丧又迷茫，那确实是真的。
实际上，在某种程度上，我当时真的很担心 AI 本身的影响。因为我开始意识到，所有这些我以前没有意识到的新的全球影响。所以我有几年时间来思考这个问题。确实，经过几年的思考，我至少在理解正在发生的事情方面感觉更自在一些了。这让我感觉良好。
是的。我会说这本书对我的生活产生了很大的影响。它给了我机会去结识很多人，你知道的，因为我从前只是一名 AI 研究员。但因为这本书，我有机会与如此多样化的人交谈，了解到许多不同职业和生活方式的不同事情。甚至有一次，有位祖母打电话到我的办公室，问我是否可以见见她的孙子，让他不那么固执，她说她是在广播里听到我的。如此类的事情对我来说非常有意义。就像我现在和你交谈，如果没有这本书，这种情况也不会发生。
Joel：我在反思的一件事是，当你从事基础研究工作并撰写论文时，很难将论文与对人们的任何具体积极影响联系起来。但当一个人以非常具体的方式感谢你写的东西，说真的很感激它触动了他们，甚至可能改变了他们的生活，我想这可能是最大的收获之一。是的，人们关心我们写的东西，这真的很神奇。
卫诗婕：你们在书中还给普通人建议——建议人们能更好地追逐自己的好奇心，收获属于自己的完美人生。能不能分享一下，当下你们如何安排自己的工作和生活？
Kenneth：去追求好奇心。在我自己的工作和生活中，我有点相信，因为这些事情对我来说有趣，我就会把它们做好，然后好事就会发生。但我不确定会是什么好事。所以这和这本书的观点相当契合。写了这本书让我对这种方法更有信心了。
Joel ：我的回答非常相似。不知怎的，我在工作之外的追求总会以某种意想不到的方式融入我的研究中，并且试图，在自己的生活中找到通向意外宝藏的垫脚石。是的。
卫诗婕：现在回望，哪些是你们人生路上的垫脚石？
Joel：我小时候，我爸爸拿到了一本杂志，叫《3 to 1 contact 》，是美国的一本杂志，在杂志的后面，有一些基础程序，还有一些你可以输入的程序。就是那本杂志让我对计算机产生了兴趣。还有好多这样的垫脚石。
Kenneth：我必须承认，在我决定招募乔尔的某个时刻，这显然给我带来了大量我根本无法预测的后果，包括现在坐在这里接受这次采访。
卫诗婕：这很温暖。书中有一句我最喜欢的话："当你放弃对目标的执念，反而可能撞见改变世界的宝藏。"所以，你们是否曾经"撞见了改变世界的宝藏"，请分享一个与此有关的回忆？
Kenneth ：我其实很怀念很久以前玩 Pick Breeder 的时候，我在没有刻意为之的情况下做了一件非常有趣的事情。而现在，有成千上万的、不同国家的人受到了"伟大为何无法被规划"这一理念的影响，这简直太疯狂了。
Joel：在我的人生中，有很多次，某件事，它彻底颠覆了我的整个人生，以一种我从未预料到的方式。我想，在我们每个人的生活中，可能都有这样的时刻。
本文来自微信公众号：卫诗婕 商业漫谈，作者：卫诗婕，对话嘉宾：嘉宾：Kenneth Stanley 、 Joel Lehman
