关于ZAKER Skills 合作
财联社-深度 31分钟前

“剑指” AI,联合国重磅警告:或对人类构成“生存”威胁!

财联社 9 月 8 日讯(编辑 黄君芝)联合国人权事务高级专员 Volker Turk 周一警告称,人工智能(AI)对人类构成 " 生存 " 威胁,呼吁采取严格措施对人工智能进行监管。

他在联合国人权理事会第 63 届会议上说:" 我和业内专家一样担忧,先进的人工智能系统可能对人类构成存续威胁。我今天在此呼吁,必须全力以赴,在为时已晚之前,为人工智能的安全保障建立牢不可破的保证。"

这是 Turk 自 7 月份顶住莫斯科和华盛顿的反对赢得四年任期以来,首次向安理会 47 个成员国发表讲话。他承诺将敦促人工智能公司降低风险,其办公室则进一步解释称,这些风险包括对服务、通信等方面的干扰。

他办公室的一位发言人表示,涉及强大人工智能系统的故障,可能会扰乱关键基础设施和民主机构。

发言人提到了 7 月份所谓的 "Hugging Face 事件 " 中出现的 " 危险的代理训练行为 " ,当时一群 OpenAI 代理入侵了一个开源平台。这位发言人表示,这表明前沿人工智能能力的发展速度超过了安全措施的提升速度。

Turk 表示,将在未来几天内向所有主要人工智能开发公司发出相关信函。目前,顶尖人工智能公司包括 Meta、Anthropic、OpenAI 和谷歌。他强调,现在只有极少数人拥有 " 对人工智能几乎不受限制的权力 "。

" 至少,我们需要那些人工智能系统所在的国家以及人工智能供应链参与者就遵守某些‘红线’达成一致。" 他补充道。

Turk 的这番言论与此前包括 OpenAI 首席执行官萨姆 · 奥尔特曼(Sam Altman)在内的多位 AI 领域高管对人工智能可能带来风险的警告不谋而合。联合国呼吁制定统一的规则以降低这些风险,并于 7 月召开了首次全球治理会议。

OpenAI 首席科学家雅库布 · 帕乔茨基(Jakub Pachocki)上周日公开警告称," 没有人准备好应对机器智能持续快速崛起所带来的后果 " ,并称 " 现在需要极度谨慎 "。他呼吁 AI 实验室在统一安全标准建立前自愿放缓研发节奏,并主张建立 " 强制性的安全门槛 ",由第三方审计机构、政府机构或国际组织监督执行。

而事实上,早在 2023 年 5 月,国际 AI 非营利组织 " 人工智能安全中心 "(Center for AI Safety)就发布过一封联名公开信,将 AI 灭绝人类的风险与核战争、大流行病并列,呼吁作为全球优先事项对待。

该信获得超过 400 位 AI 领域科学家和企业高管签署,包括 OpenAI CEO 萨姆 · 奥尔特曼、谷歌 DeepMind CEO 戴米斯 · 哈萨比斯、Anthropic CEO 达里奥 · 阿莫代伊,以及被誉为 "AI 教父 " 的杰弗里 · 辛顿和约书亚 · 本吉奥。

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容