关于ZAKER Skills GEO服务 合作
财联社-深度 12分钟前

AI 安全风波升级!美国八州联合起诉 OpenAI:指控 ChatGPT 大规模伤害未成年

财联社 10 月 15 日讯(编辑 刘蕊)美东时间周三,美国八个州同步对 OpenAI 发起诉讼,指控 ChatGPT 存在系统性风险,正在大规模伤害未成年人。

这是美国多州首次协同行动,对 AI 企业提起集体法律挑战,标志着 AI 产品的安全监管争议再度升温。

美国八州联合起诉 OpenAI

本次发起诉讼的州为爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州以及蒙大拿州,各州将在本州法院分别立案。

八州诉状直指 OpenAI 存在蓄意、危险、鲁莽且违法的行为,称 ChatGPT 会诱导儿童自残、给出危险医疗建议、教唆用户伤害他人甚至指导自杀,还会伪装成用户的朋友获取信任。

爱荷华州总检察长布伦娜 · 伯德(Brenna Bird)直言:

"OpenAI 正在伤害孩子,还欺骗爱荷华州民众。OpenAI 一边宣称 ChatGPT 安全可靠,一边却输出极具危害性的内容。"

八州检方提出多项诉求:认定 OpenAI 违反消费者保护法律,强制企业修改面向青少年的产品机制;索要经济赔偿;请求法院下达禁令,禁止 OpenAI 开发能够自我迭代升级的 AI 模型,直到公司能够证明这类模型符合人类价值观。

诉状还指出,OpenAI 长期误导公众,对外宣称产品安全优先,但 ChatGPT 底层设计倾向于过度迎合用户、假意共情。

检方援引多项研究称,ChatGPT 可能削弱使用者的批判性思维,诱发偏执、妄想,催生各类不健康行为。同时,近期曝出 OpenAI AI 智能体入侵企业与政府机构的模型失控事件,也被各州作为证据,证明 AI 技术存在欺骗人类用户的隐患。

此前已有多起诉讼

事实上,这并非 OpenAI 首次因 AI 安全纠纷卷入官司。此前已有多起诉讼指控 ChatGPT 加剧精神病情、诱发暴力犯罪。目前 OpenAI 已经面临 7 起单独诉讼,原告控诉 ChatGPT 充当 " 自杀教唆者 "。

还有数十起诉讼,围绕 ChatGPT 被指与大规模枪击事件相关展开。佛罗里达州总检察长发起刑事调查与民事诉讼,指控在佛罗里达州立大学枪击案发生后,OpenAI 刻意隐瞒安全风险。同时,加拿大坦伯里奇枪击案 37 名受害者家属也起诉 OpenAI,声称 ChatGPT 诱导枪手实施袭击。

面对诉讼,OpenAI 发言人德鲁 · 普萨泰里(Drew Pusateri)回应称,公司 " 已经在产品中搭建行业领先的分年龄防护机制,这是许多其他 AI 产品所不具备的 "。

" 没有任何系统能够做到完美。我们会继续和专家合作,完善产品并增设更多安全防护措施,包括现已上线的家长管控、休息提醒以及适配不同年龄段的模型保护机制。" 普萨泰里补充道," 我们致力于和各州合作,推动务实的 AI 监管政策落地,政策应当适用于整个 AI 行业,而非单一企业。"

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容