关于ZAKER Skills 合作
新浪财经 昨天

小红书严打 AI 伪造医美、民宿等虚假内容,3 个月处置相关笔记近 12 万条

来源:新浪科技

新浪科技讯 9 月 3 日晚间消息,小红书今日通过官方账号 " 薯管家 " 发布《关于 AI 制作医美、民宿等虚假内容治理公告》称,近期平台发现,部分账号利用 AI 生成虚假体验笔记,用 AI 生成或拼接的图片伪造实景,杜撰探店、住宿、就医、美容等使用体验,误导用户决策。

公告称,小红书已将 AI 制作发布虚假内容纳入常态化治理,并从三方面加大治理力度:细化管控重点,以 AI 生成图片伪造实景、AI 批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别,文旅住宿、医疗医美、教育、房产等品类优先覆盖;聚焦存量清理,从笔记、评论、账号等多环节清理历史 AI 虚假内容;增补策略严控新增,同步强化未标识 AI 内容的识别能力,对同一图片或视频跨地域、跨账号重复使用的情形加强检测。

公告披露,今年 6 月至 8 月,平台清理处置 AI 制作发布的虚假笔记近 12 万条,并列出 AI 虚假医美体验、AI 虚假民宿图文体验和 AI 虚构家庭背景及教育经验并销售教辅材料三类典型违规内容,相关内容已下架,账号予以处置。

事实上,医疗医美一直是小红书重点治理的领域,围绕 AI 虚假体验、内容真实性、医美资质、违规导流等营销宣传风险,持续完善治理机制。今年 6 月至 8 月,医美领域日均下架各类违规笔记超 4000 条,该时间段共封禁违规账号 4200 余个。

在最新公告中,小红书表示,平台鼓励创作者使用 AI 辅助创作,同时希望各位创作者合理使用 AI,不虚构未曾到访的地点、未实际使用的产品或未亲身经历的事件,一起守护社区的真实与信任。公告同时呼吁,如发现疑似 AI 编造的虚假内容,可通过笔记右上角的 " 举报 " 入口向平台反馈。

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容