Ilya 偷拍备份的 OpenAI 机密文件,刚刚曝光。
70 页内部证据、200+ 页私人笔记,偷拍视频、绕开公司系统、用阅后即焚的方式传递消息,甚至上来直接一个大暴击:
Sam Altman 撒谎成性!!!(大声 .jpg )
《纽约客》刚刚披露这一事件详情,里面的内容堪称抓马:
从 OpenAI 董事会到微软高级高管,跨越 20 年、横跨多个组织,大家对奥特曼的核心评价几乎都是撒谎成性。
OpenAI 的非营利使命要求 CEO 必须具备诚信的品质,但 Ilya 后来发现奥特曼恰恰不具备这种品质,甚至恰恰相反…
奥特曼被解雇后的 5 天,在自家豪宅搞了个宫斗备战室,资本、员工、舆论三线齐发,最终董事会无力抵抗!
宫斗事件之后,奥特曼不仅没有收敛,反而加速了安全承诺的瓦解,SuperAlignment 团队被边缘化。

为啥 OpenAI 首席科学家要用间谍片手法搜集 CEO 的罪证?
这份备忘录里到底写了什么,让董事会成员回忆时只说了三个字—— "He was terrified"?
准备好瓜子儿,大家伙儿边嗑边看吧…
( 太精彩了,太精彩了,太精彩了… )
llya 偷拍 70 页 OpenAI 秘密文件曝光!山姆 · 奥特曼,撒谎成性
只能说,OpenAI 从一开始,就给自己设了一道几乎不留余地的门槛。
这份 70 页机密备忘录中提到,OpenAI 从创建之初的时候就被被设计成一个的安全性拉满的组织——
非营利结构、董事会优先对人类负责,甚至在极端情况下,可以牺牲公司本身。
也正因如此具备公共利益的性质,所以 OpenAI 对于 CEO 的要求同样具备一定特殊性,那就是,必须非常非常非常非常的有信用。
好巧不巧,问题恰恰出在这里。
2019 年,Ilya 还在 OpenAI 办公室的时候,为 Greg Brockman 主持婚礼,甚至安排了一只机械手来担任捧环人。
那个时候,技术、理想、人与人之间的信任看起来是统一的,但随着模型能力不断临界线,他开始重新思考同一个问题:
如果这项技术真的被做出来,谁在控制它,他的答案变得越来越明确,甚至冷静到只剩一句判断:
" 我不认为奥特曼是那个能为 OpenAI 拍板儿的人。"
理由嘛——
llya 倒不是怀疑奥特曼能力有问题,主要吧,还是怀疑这个人的人性…
于是乎,接下来 llya 的一系列操作,只能说已经不太像一家科技公司的内部讨论了,正如我们看到的:
70 页材料被系统整理出来,包含 Slack 记录与内部文件,关键内容用手机拍下,刻意避开公司设备,再通过会自动消失的消息发送给董事会。
一位收到材料的董事后来回忆,看到这个大爆料的时候,他直言:我是真被吓得没边了…
5 天宫斗,从 F1 赛场到豪宅备战室
在 Ilya 那份 70 页机密备忘录里,当年的 OpenAI 宫斗事件被还原得更加具体,也更抓马。(doge)
而且这事儿的开端,本身就带着一点《荒诞感》——
当时奥特曼人在拉斯维加斯看 F1,被一通视频电话叫走,电话那头儿,Ilya 读了一段极其简短的声明——
他(奥特曼)已经不再是 OpenAI 的 CEO。
没有铺垫,也没有证据披露,更离谱的是,连微软里德 · 霍夫曼这种级别的核心投资人,事前也完全不知情。
(甚至一度以为是挪用资金这种级别的大雷,结果啥也没查到??)
听到自己被 " 斩立决 " 的消息,当晚奥特曼直接连夜在自己豪宅里直接搭起了一个堪称 " 拯救奥特曼 " 主题的临时指挥部。

奥特曼的目的,是迅速推进三件事:
第一,资本施压。
Thrive 冻结关键投资,微软直接放话可以另起炉灶:你们可以换 CEO,但 OpenAI 也可以从此消失。
第二,员工站队。
联名信迅速扩散,几乎全员签字,甚至连临时接任 CEO、最初站在董事会一侧的 Murati,最终也倒向奥特曼,签下支持回归的联名信。
紧接着,便是舆论失控。
董事会选择沉默,奥特曼一方持续释放信息,掌控舆论大局。
结果嘛,就是 Ilya 最后也不得不松口:如果奥特曼不回来,公司可能会直接崩掉。
五天之后,结局落定—奥特曼回宫,董事会出局。
甚至,OpenAI 内部员工还给这场硅谷史上最经典的宫斗反转,起了个名字—— The Blip(意为 " 小插曲 " 或 " 短暂失常 ")。
The Blip 之后,安全承诺开始崩塌
The Blip 结束后,OpenAI 所发生的变化没有停在权力层面,那套用来 " 限制权力 " 的机制,开始逐步松动。
最先出问题的,是资源。
OpenAI 曾对外承诺,会拿出 20% 的算力,用于长期安全研究,这是 OpenAI 当时最核心的安全底牌。
但实际执行,很快变了味儿——算力占比一路下滑到 1%-2%,分到的还是最老的集群、最差的芯片。
当负责人 Jan Leike 提出异议时,得到的回应是:这件事从一开始就不现实。
从优先事项,变成象征性存在,安全开始失去真正的投入。
第二步,就是流程开始被绕开。
在 OpenAI 里,原本涉及高风险能力的发布,正常应该需要经过安全委员会审核。
但在后续产品迭代中,一些争议最大的功能都没有走完整审批流程就直接上线,甚至连地区版本的产品,也在安全评估尚未完成的情况下发布。
(流程不流程的,似乎也没那么重要了… )

事实上董事会风波之后,OpenAI 请来了一家参与过多起公司丑闻调查的律所 "WilmerHale" 做独立调查。
按这家律所的正常工作流程和外界普遍预期来说,OpenAI 的事情会有一份正式、可追溯的书面报告。
但最终的结果是——没有报告。(doge)
调查结论,只以口头形式汇报给新董事会,而不写报告的建议,恰恰来自奥特曼参与选择的董事的私人律师。
三件事儿——先削资源,再松流程,最后弱化调查。
看起来每一步都是轻微调整,但是吧,当系统可以绕过限制,限制本身也就不再存在了。
20 年前就有人看透了山姆 · 奥特曼?
u1s1,围绕奥特曼好的坏的一箩筐评价,并不是在 OpenAI 才出现的。
事实上跨越 20 年、横跨多个组织,对奥特曼的核心评价惊人一致,那就是——
这小子,嘴里忒没实话,干事儿忒不着边儿。(doge)
最早的一次,可以追溯到 2013 年。
当时已故的天才程序员 Aaron Swartz,在私下对朋友留下过一句对奥特曼非常极端判断:
你必须明白,奥特曼这个人永远不值得信任,他是个反社会人格的人,为了目的什么都做得出来。
他第一次创业阶段,问题已经出现。
公司内部员工曾两次推动董事会撤换他,甚至需要投资人亲自下场,在公司里盯着他。
到了后来,当他开始进入更核心的创业与投资圈层,问题开始升级——
从内部矛盾,变成信任危机。
内部有人后来直接承认,奥特曼一直在隐瞒事情,比如对外公告不断修改说法, 职位描述一改再改,甚至最后干脆删除等等。
但在正式的监管文件里,他依然被标注在原来的位置上??
换句话说就是表面在变化,实际关系却没有同步调整。

董事会成员给出的评价是:他不受事实的约束,甚至奥特曼还被大家形容为,对欺骗可能带来的后果缺乏基本顾虑。
而另一位高管给出的说法是:他未来,有可能会被放进那些重大商业丑闻人物的序列中被讨论。
喜欢写日记的不正经人还有一个,后来成为 Anthropic CEO 的 Dario Amodei 也留下了 200 多页笔记内容,笔记中包含大量对于 OpenAI 和奥特曼本人的评价。
尽管和 llya 算不上啥关系多好的朋友,但是吧,人家和 Ilya 得出了同一个结论——
那就是 OpenAI 内部出现的一箩筐问题不在公司系统本身,而是奥特曼本人有问题。
甚至,Amodei 的措辞更为激烈,对奥特曼的评价是——他说的话几乎可以确定是胡扯!!!

更微妙的是,别看差评如此之多,架不住奥特曼自己的腰板直,在被质疑时,人家奥特曼只是说:
不好意思哈,我无法改变我的性格~(好牛的精神状态)
最后颇值得一提的是,在 llya 的 70 页机密备忘录中,还有个蛮值得一瞧的事情,那就是——
在 OpenAI 的办公区里,"Feel the AGI" 的标语随处可见。
这句话最早是 Ilya 用来警告同事 AGI 风险的,但是吧,The Blip 宫变事件之后,变成了庆祝未来的口号。
(这多少有点地狱级笑话了啊,llya:我???)
OMT
家人们,这瓜还没完。
就在刚刚,曝光此备忘录的《纽约客》记者在 x 上表示,当他们想采访 " 研究 AI 生存风险 " 的研究员时,OpenAI 官方回应是:
你说的存在性安全是啥?这东西压根不存在哈~

就在这篇调查报告发布几个小时后, OpenAI 刚巧推出了支持安全研究的项目。(doge)

(llya:这下你们知道我说的都是实话了吧,这奥特曼是真说一套做一套啊??)
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
风云变幻的 Q1,谁是 AI 超级应用?
量子位智库「AI 100」旗舰、创新双产品榜单开启招募!
扫码申报,让你的产品成为季度风向标。