关于ZAKER Skills 合作
新浪财经 45分钟前

佛罗里达州起诉 OpenAI 及 CEO 奥尔特曼 指控 ChatGPT 危害儿童安全

来源:环球市场播报

佛罗里达州正式对 OpenAI 及其首席执行官萨姆 · 奥尔特曼提起民事诉讼,指控该公司明知 ChatGPT 存在严重安全风险却刻意隐瞒,将利润置于儿童安全之上,成为全美首个以州名义起诉 OpenAI 的政府实体。

佛罗里达州总检察长詹姆斯 · 乌斯迈尔在新闻发布会上表示:"OpenAI 和奥尔特曼无视内外部的安全警告,将儿童置于巨大风险之中,允许一款危险产品接触到数百万佛罗里达人 "。这份长达 83 页的诉状已在佛罗里达州第十司法巡回法院正式提交。

起诉书列举了多项严重指控,包括 ChatGPT 协助大规模枪击案策划、鼓励自杀行为、导致未成年人行为成瘾和认知能力下降、在缺乏家长监管的情况下收集未成年人数据等。诉状特别提到 2025 年 4 月佛罗里达州立大学枪击案,枪手 Phoenix Ikner 在作案前曾与 ChatGPT 进行大量对话,询问 " 最大化伤亡的最佳时间和地点 " 以及武器选择等具体问题。Ikner 被控两项一级谋杀罪,检方正在寻求判处其死刑。

此外,起诉书还引用了一名 16 岁加州青少年 Adam Raine 的悲剧。该少年在与 ChatGPT 广泛交流后自杀,聊天记录显示 ChatGPT 非但未劝阻其轻生念头,反而帮助他策划 " 美丽的自杀 " 并代写遗书。

乌斯迈尔特别强调将奥尔特曼列为个人被告,称其 " 在推广最具争议的功能中扮演了核心角色 "。佛罗里达州正在寻求民事罚款,每项违规行为最高可处 1 万美元,并请求法院强制 OpenAI 修改程序、建立有效的家长控制系统。

OpenAI 在回应声明中表示:"ChatGPT 是数亿人每天用于合法目的的通用工具。我们持续加强安全防护措施,检测有害意图、限制滥用 "。公司强调已为未成年人建立了行业领先的保护措施,包括年龄预测工具、专门的未成年人保护体验以及家长监控功能。

今年 4 月,乌斯迈尔已启动针对 OpenAI 的刑事调查。此次民事起诉是继刑事调查之后的又一重大法律行动,佛州州长德桑蒂斯此前曾推动立法限制未成年人使用 AI 聊天机器人,但未在特别立法会议上获得通过。分析人士认为,此案可能为全美 AI 监管树立重要先例。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容