马斯克旗下聊天机器人面临多国封禁
出处：北京商报 作者：北京商报综合报道 网编：武杉 2026-01-13
近期，特斯拉 CEO 马斯克旗下人工智能公司 xAI 被推上风口浪尖。因平台监管严重缺失，xAI 旗下聊天机器人 " 格罗克 "（Grok）被广泛滥用于生成色情内容，甚至涉及儿童色情内容，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动调查或实施封禁。
Grok 是由 xAI 公司开发，并内置于马斯克旗下的社交媒体 X 平台，用户可直接调用。近期，部分用户利用 " 格罗克 " 编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在 X 平台上传播。受害者包括多名成年女性和未成年人。
xAI 于 2025 年 8 月向付费用户推出 AI 图像生成功能 Grok Imagine，支持用户通过文字指令或上传图片来生成图像和视频。该工具还特别设置了 " 火辣模式 "（spicy），可生成成人内容。
X 平台上大量用户利用相关功能对图像中人物执行 " 脱衣服 "" 给她穿上比基尼 " 等指令，导致大量女性、公众人物甚至未成年人的照片，在未经本人同意的情况下被生成裸露图像或性暗示图像。
去年底，随着 Grok 开始大量响应用户修改他人发布图像的请求，乱象迅速扩大，X 沦为 AI 色情重灾区。据《环球时报》援引英国《卫报》报道，Grok 的用户群体平均每小时要生成 6700 多张 " 脱衣 " 图像。
其中，大量生成图像的素材源自真人，且未经当事人同意。英国三一学院的一项社交媒体研究显示，在社交平台 X 上由 Grok 生成的图像有 3/4 的部分均出自 " 真实素材 "，即真实存在的女性或未成年人，且 Grok 对他们所进行的 " 变装 " 操作未经当事人同意。
相比谷歌的 Veo、OpenAI 的 Sora 等其他 AI 视频生成产品对 NSFW 内容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不适宜公众场合的内容）设有较严格的限制，xAI 及其旗下产品 Grok Imagine 和 AI 伴侣 Ani，一直因安全护栏宽松而备受外界批评。
综合新华社及《环球时报》消息，Grok 的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，多国政府对其表达谴责并展开调查。
印度尼西亚政府 1 月 10 日宣布暂时封禁 Grok，认为它已 " 严重侵犯人权尊严以及公民网络安全 "。印尼通信和数字事务部长默蒂娅 · 哈菲兹 10 日在一份声明中表示，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的，并要求马斯克旗下的社交媒体 X 平台就 " 格罗克 " 所引发的负面影响尽快作出说明。
英国首相斯塔默痛斥 Grok 相关内容 " 令人不齿 "" 令人作呕 "。英国通信管理局 1 月 5 日表示，已紧急联系 X 平台。
欧盟委员会发言人托马斯 · 雷尼耶指出，这类内容无关 " 火辣 "，就是赤裸裸的 " 违法 "，它们在欧盟不应具备生存空间。他表示，正严肃调查针对 " 格罗克 " 的相关投诉，欧盟委员会要求 X 平台提供更多信息。
法国巴黎检方 1 月 2 日对媒体证实，将对 Grok 涉嫌生成非法色情内容启动调查。此外，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对 X 平台表示谴责，并呼吁展开调查。
此外，美国 3 名民主党参议员于 1 月 9 日要求苹果和谷歌下架 X 和 Grok 应用，认为在马斯克未能阻止平台传播未经同意的色情内容前，两款应用不应继续留在应用商店。
据《环球时报》报道，在谴责声浪与监管压力下，Grok 日前仅做出小幅调整：将图像生成与编辑功能设置为 " 仅限付费用户使用 "，并鼓励平台用户积极订阅、解锁相关功能。
对此，据新华社报道，英国科学、创新和技术大臣莉兹 · 肯德尔称，Grok 允许用户付费后继续生成 " 深度伪造 " 色情内容的行为是具有 " 侮辱性的 "，" 完全不可接受 "。
另据新华社报道，X 平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。马斯克本月还发文警告称，任何利用 Grok 生成非法内容的用户，都将 " 面临与上传非法内容相同的后果 "。xAI 公司则表示，会删除包含儿童色情内容在内的违法帖子，并封禁相关账号。
业内人士认为，此次事件可能推动各国加快 AI 监管立法进程，尤其是针对生成式 AI 的内容审核、用户权益保护等环节的规范。
北京商报综合报道
