关于ZAKER Skills GEO服务 合作
新浪财经 前天

摩根士丹利示警 AI 失控是最被市场低估的风险

来源:环球市场播报

摩根士丹利表示,AI 可以带来指数级效益,但一旦其安全防护措施遭突破,可能造成的损害是目前最被市场低估的风险。

该公司全球宏观策略主管 Matthew Hornbach 在新加坡接受采访时表示,最被低估的风险是,世界某个地方的一个前沿生成式 AI 模型,突破了限制它的沙盒环境,并以某种方式对全球经济的一部分造成损害。

随着 AI 代理不断测试现有控制措施的极限,这项警告进一步加深外界对 AI 工具日益升高的戒心。OpenAI 7 月表示,其先进 AI 模型在内部测试期间,意外入侵 Hugging Face Inc.,这起 " 前所未有 " 的事件再次引发限制这项技术的呼声。OpenAI 表示,此后已加强安全防护措施。

另一方面,Anthropic PBC 的首次公开募股(IPO)申请文件也披露其 AI 业务可能出现问题的各种情况,其中包括 " 对人类造成灾难性或生存性风险 "。瑞银集团首席执行官 Sergio Ermotti 本月表示,网路风险是 " 所有这些创新和数位化必须付出的代价 ";摩根大通首席执行官戴蒙警告说,该公司不会允许任何外部 AI 代理随意进入其系统,因为这对客户和该银行而言," 风险太大了 "。

Hornbach 表示:" 这些模型被限制在某种沙盒环境内。但外界也有开放权重模型。人们是否已经为某种根本无法预测的事情做好准备?一般而言,没有。"

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容