关于ZAKER Skills GEO服务 合作
新浪财经 15分钟前

为何 Anthropic IPO 致使慈善家纽马克暂缓向 AI 安全领域捐款

来源:环球市场播报

克雷格纽马克

克雷格列表(Craigslist)创始人克雷格纽马克表示,他近期愈发担忧 AI 有可能对关键基础设施与人类社会造成严重危害。他曾考虑将部分慈善资金投向相关机构,这些机构致力于防范强大人工智能伤害人类。

但纽马克向本刊透露,他目前选择暂缓捐款。本周 Anthropic 完成轰动市场的 IPO,公司内部将诞生大批新晋富豪员工,他预计这批员工会向 AI 安全机构掀起一轮捐赠浪潮。这笔潜在捐赠规模或许会超过他的出资,因此他认为自己的善款投往其他领域能够发挥更大价值。

" 很多人都在关注 AI 安全这件事,那我就可以把精力投向别的方向。" 纽马克在本月早些时候的视频采访中说道。

" 当然,也许是我想得太天真,觉得开发 AI 的从业者会最关心它的安全风险。" 纽马克表示。倘若 AI 行业从业者并未向这类机构捐款,他可能除了自掏腰包之外,还会 " 公开、高调地呼吁 " 社会各界为 AI 安全事业提供慈善捐助。

三十年前,纽马克创立线上交易平台克雷格列表,并借此跻身亿万富翁。但此后他持续捐出个人财富,用于网络安全、退伍军人帮扶、新闻行业等公益事业,如今已经不再是亿万富豪。2024 年,他还发起反欺诈网络安全科普项目 Take9。

纽马克的这番言论,侧面反映市场预期:Anthropic 本次 IPO 将有大量资金流向各类非营利机构,这些机构的目标是避免 AI 脱离人类管控、酿成大规模灾难。Anthropic 内部多位知名研究人员,一直对强 AI 带来的灾难性风险保持高度警惕。外界预计,这些员工会把 IPO 获得的新增财富一部分捐助给风险防范类非营利组织,或是捐给诸如 Coefficient Giving 这类专门承接相关公益捐赠的机构。

霍尔登卡诺夫斯基任职于 Anthropic,他的妻子是公司总裁丹妮拉阿莫代伊。他曾在 2 月的线上论坛撰文提出警示:Anthropic 员工或将成为 AI 安全非营利机构的主要捐赠来源,这有可能损害这些机构的中立客观性。部分此类机构本就和 AI 企业渊源深厚,人员也会在非营利组织与 AI 公司之间流动,外界早已对其独立性提出质疑。

当然,并非只有 Anthropic 的研究人员在担忧 AI 的能力会对人类构成威胁。知名 AI 安全研究者、OpenAI 董事会成员保罗克里斯蒂亚诺称,他认为未来一年内,AI 系统存在不小概率能够干预美国政府运作。

现年 73 岁的纽马克当下认为,善款更应当用于帮扶运营关键基础设施的机构,帮助它们抵御 AI 滥用带来的威胁,尤其是网络攻击。他担忧 AI 会被用来攻击公用设施、交通信号灯这类基础设施,以及网联汽车、智能冰箱等消费终端设备。

过去数月,AI 驱动的网络攻击已经真实发生。10 月,黑客入侵一套内部 AI 系统,完成对币安规模达 63 亿美元的盗窃事件;一个与中国有关联的黑客组织利用深度求索的大模型,对超过 200 家机构开展间谍活动。9 月末至 10 月,黑客还借助一款中国官方开发的 AI 工具以及 Anthropic 的 Claude 模型攻击韩国多家金融机构,造成约 10 万条客户信息泄露。

纽马克新增一重顾虑:AI 有可能被用于研发生物武器。他担心恶意分子借助 AI 入侵医学院小型实验室或是物资配送链路,释放危害性病毒。

" 不少这类病毒的设计方案已经存在。" 他说," 我猜绝大多数生物实验室防护到位,但只要少数实验室存在漏洞,就足以酿成大祸。"

自 2024 年起,纽马克已经承诺投入超过 2 亿美元善款,用于强化美国关键基础设施的网络安全防护。受资助机构包括加州大学伯克利分校长期网络安全中心(CLTC),该机构帮助小型供水单位、乡村医院以及地方公用事业单位抵御网络袭击。

伯克利 CLTC 这类机构,会为那些规模太小、无力配备专职网络安全人员的本地民营企业提供支持,调配人力与专业技术,落地美国网络安全与基础设施安全局(CISA)发布的防护指导方案。

" 还有很多工作亟待推进,但我现在还在权衡取舍。和那些借着 AI 企业 IPO 暴富的群体相比,我算不上财力雄厚的慈善家。" 纽马克表示。

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容