以 " 创造更美好世界 " 为理念出售股份,究竟意味着什么?在首次公开募股前夕,该公司正积极进行推介。

插图:Dan Zhou
地球仍在自转,沿着优雅的轨道绕日运行;而 Anthropic 公司的股票本周即将上市,因此请做好准备,迎接一场不可避免的 " 行星级混乱 ":金钱从天而降,时间仿佛静止——至少,如果该公司 S-1 文件中那些豪言壮语可信的话。从周四清晨华尔街开盘的那一刻起,你便能投资于 " 负责任地开发与维护先进人工智能,以造福人类的长远利益 "。啊,多么勇敢的新世界,竟已拥有这样一家公开交易的公司。
" 我们认为,人工智能在全球经济中的普及,是人类历史上改善生活与工作方式的最大机遇之一,而这一进程才刚刚开始。"该公司在文件中表示。Anthropic 是一家公益公司,其 S-1 文件须遵守美国证券交易委员会(SEC)的规定;它必须披露相关风险,并说明其造福公众——即全人类!——的目标可能如何影响股东收益。与安德森 · 霍洛维茨等风投机构在硅谷所营造的喧嚣氛围相比,Anthropic 这份三百多页的招股说明书措辞显得克制,甚至颇为谨慎。例如,该公司承认其技术 " 可能对人类构成灾难性或生存层面的风险 ",并且即使 Claude 不会导致所有人丧命,公众对其可能带来此类风险的担忧 " 仍可能对我们的声誉和品牌产生不利影响 "。买者自负。
当然,大部分申请文件都聚焦于盈利前景,并基于这样一种承诺:如果管理得当,人工智能 " 有望迅速推动科学创新,大幅提升经济增长率,使重大疾病的治愈触手可及,并解决那些困扰人类数代的难题 "。那么,Anthropic 是否正试图将这一 " 天堂 " 愿景变现呢?
这家公司的首次公开募股让我想起近两个世纪前发布的一则投资邀请,其中向所有愿意加入 " 旨在改善人类生存状况的协会 " 的人提供 " 面值二十美元的小额股份 "。这份招股说明书以一篇论文的形式出现,于 1833 年在匹兹堡出版,题为《人人触手可及的乐园:借助自然之力与机械,无需劳作即可实现——致全体智者之辞》。其作者是移居美国的德国工程师兼发明家约翰 · 阿道夫斯 · 埃茨勒,他声称,太阳能、风能和海洋能将使人类为生存而挣扎的状态成为过去。" 诸位同胞!" 他开篇写道," 我保证在十年内展示一种创造乐园的方法,在那里,人类生活中一切所需之物都将极为丰裕地唾手可得,且无需劳作、无需报酬;整个大自然的面貌都将焕然一新,呈现出其所能达到的最美形态。" 那将是一个世界,在那里,人们 " 能够获得前所未有的手段,以增进对世界的认知,从而提升自身的智慧;能够过上持续幸福的生活,享受迄今未曾体验过的种种乐趣;能够摆脱几乎一切困扰人类的苦难,唯有死亡例外,而且甚至可以将寿命大大延长至远超常人的平均寿命,并最终减轻死亡所带来的痛苦。"
与此形成鲜明对比的是,Anthropic 公司向股东提出的主张建立在切实可行的技术基础之上,即那些属于人工智能范畴、既精妙又令人不安的前沿进展:" 有史以来第一次,智能已成为人类可以亲手创造之物。" 然而,Anthropic 发行股票所依据的前提——投资于通往天堂的可能性——与埃茨勒的技术乌托邦主义惊人地相似。Anthropic 宣称将 " 显著加速全球经济增长,并大幅改善世界各地人民的生活质量 "。埃茨勒当年也曾如此许诺。
在招股说明书中,Anthropic ——显然有意避免使用 " 通用人工智能 " 和 " 超级智能 " 这类模糊且颇具争议的术语——转而采用 " 强人工智能 " 这一表述。据此,该公司意指具备 " 在大多数专业与科学领域中,认知能力达到或超越顶尖人类专家水平 ",并能通过机器人及其他设备 " 与物理世界进行交互 " 的人工智能。实现强人工智能是 Anthropic 的目标,而其主要路径便是依托于正在快速自我进化的 Claude 模型。("Claude 模型的每一个新版本都会直接推动下一代模型的研发。")此次 IPO 几乎必然带来的巨额投资,也将使 Anthropic 得以 " 扩大自有数据中心规模 ",以满足公司业务扩张所需的算力需求,覆盖现有及新兴市场:" 从医疗健康、生命科学到机器人技术乃至物理世界等各个领域 "。(要理解这一切如何运作,关键在于摒弃 Claude 只是你笔记本电脑上一个聊天机器人的刻板印象。例如,Claude 将彻底革新医学研究,因为 Claude 及其相关工具很快就能独立运行整个实验室:" 我们的模型硬件标准使 AI 智能体能够操控显微镜、液体处理仪以及现成的机械臂等实验室与生产设备。")
如果你在想,当 Claude 无所不能时,人类还剩下什么可做的,那你并不孤单。或者,你也许在疑惑,除了成为拥有投票权的股东之外,你还能如何参与 Claude 为你、为全人类、为地球所构建的未来?请放心,Anthropic 坚称,Claude ——在这里套用了自上世纪八十年代以来硅谷几乎每款产品都会用到的营销说辞——不知为何竟 " 有利于民主 "。具体而言," 人工智能可用于促进并巩固民主制度,推动地缘政治的历史进程朝着自由的方向发展。" 然而,这份招股说明书中尽管多次提及防范网络攻击,却并未就这一说法究竟如何成立给出任何切实的解释。
诚然,与 OpenAI、谷歌和 Meta 相比,Anthropic 无疑是各大人工智能公司中在伦理责任方面最为审慎的一家。然而,该公司对其计划研发的 " 强人工智能 " 将有益于民主——甚至仅仅是有益——所作出的保证,却充斥着诸如以下这般佶屈聱牙的表述(据推测,这段话与 Claude 的 " 宪法 " 一样,至少部分由 Claude 本人撰写):" 安全、对齐及合乎伦理的行为在企业界尤为受到重视;在为企业关键任务负载选择合作伙伴时,严格的安全防护措施、可预测的模型行为以及切实可见的问责机制,已成为决定性标准。" 而万一机器人失控,导致绝大多数人类丧生——唯有少数幸运儿或许能在一座核时代掩体中躲过劫难,并在此栖身数百年——幸存者们也仍能从《奇爱博士》那句不朽名言中获得些许慰藉:" 届时既无令人震惊的回忆,主导的情感将是后人对逝者的怀旧之情,以及对未来冒险满怀大胆的好奇心!"
早在 1833 年,埃茨勒就以 " 不超过一张彩票的价格 " 的小额股金为代价,许诺不仅能带来非凡的经济回报,还能实现人间天堂。他声称,只要在其事业上全额投资,不出十年," 整个世界便能真正变成乐园 "。到了 19 世纪 40 年代,他与追随者已筹集到足够资金,试图在委内瑞拉打造这一乌托邦。借助一套尚未问世、能够包罗万象的精密机械系统——即机械自动装置,也就是如今所谓的机器人——他表示,除了监督这些机器之外," 将不再有任何劳作的必要 "。然而遗憾的是,在委内瑞拉,数十名埃茨勒主义者或因疾病、或因饥饿而亡,或因营养不良被迫入院治疗。而在项目失败不久后,埃茨勒便销声匿迹了。
除了他那些注定要追随的人之外,几乎没有人认真关注过埃茨勒的这部论著。然而,1843 年,在伦敦出版了第二版之后,亨利 · 戴维 · 梭罗在美国的一家杂志上为该书撰写了书评。他嘲讽了埃茨勒的各种设想,尤其是他的傲慢:" 我们将把水变成洗涤之用,把火变为取暖之能,把冰变为清凉之资,并在大地之下加以支撑。我们将教会鸟儿飞翔,鱼儿游泳,反刍动物咀嚼反刍。是时候让我们好好研究一下这些事情了。" 但最重要的是,梭罗质疑了埃茨勒将人类幸福等同于机器速度与效率不断提升的观点。" 试想,如果我们能够把道德力量与物理力量进行比较,比如说,假设一股爱的力量吹拂在人灵魂的每一平方英尺上,它究竟相当于多少马力呢?" 梭罗写道——那是在他移居瓦尔登湖畔、过一种有意识的生活之前的两年。他变得有些飘然若仙。" 爱就是风,是潮汐,是波浪,是阳光," 他继续说道,以一种颇具圣经意味的方式,对埃茨勒的机械乌托邦提出了挑战。" 它的力量无法估量;它拥有无穷的马力。它永不停歇,从不懈怠;它无需停歇便能推动整个地球;它无需火焰就能带来温暖;无需肉类也能滋养身心;无需衣裳也能遮体;无需屋顶也能栖身;它甚至能创造一个乐园,使人们不再需要外在的天堂。"
更加智能、更加强大的机器将对人类意味着什么?Anthropic 坦言:" 构建人工智能,就是驾驭认知本身;而任何如此强大的力量,都可能被用于行善,也可能被用于作恶。"该公司承诺带来诸多益处:更有效的疾病防治手段、缩短车辆管理局的排队时间等。但同时也警示了诸多风险:威权主义、生物武器、网络攻击,乃至人类文明的灭绝。那么,如何衡量这些技术给公众带来的总体收益呢?这在很大程度上将由 Anthropic 的七位联合创始人来决定。他们 " 具备得天独厚的条件,能够担当起我们使命的守护者 ",并 collectively 拥有 50.1% 的普通投票权;同时,每位创始人都已承诺将其个人股权中的 80% 捐赠给慈善事业。(此外,一个独立的长期利益信托机构另行选举产生董事会多数成员。)换言之,所谓理想的未来图景,最终仍将由极少数人来定夺。
人工智能不会带来一个更加充满爱的未来。它也不会教会鸟儿飞翔,或鱼儿游泳。迄今为止,关于人工智能的种种迹象几乎无一预示着一个更美好的世界。而 Anthropic 公司在兜售 " 人间天堂 " 的股票时,一边发出可能坠入 " 地狱 " 的警告,一边所承诺的,与其说是更美好的世界,不如说是一个更加世俗化的未来。
作者:哈佛大学历史学教授吉尔 · 莱波雷是本刊特约撰稿人,自 2005 年以来一直为本刊撰稿。