4 月 27 日,小红书首次公布平台对 AI 内容的治理主张,并在北京举办首届 AI 治理开放日。此次 AI 治理主张共分为 " 平台鼓励的 AI 内容及行为 " 和 " 平台反对的 AI 内容及行为 " 两大板块,以给到创作者清晰指引。
小红书明确了对待 AI 相关现象的核心态度:鼓励 AI 作为创意放大器,反对 AI 作为造假工具与低质内容生产机器,所有 AI 参与创作的内容均需主动标识。
鼓励 AI 成为创作者的创意放大器
沟通会上,小红书首次明确 " 平台鼓励什么 "?核心指向一类内容:创作者以 AI 为创意的放大器,生产出的有审美、有叙事、有真实信息增量的优质内容。具体来说,小红书欢迎创作者用 AI 做这几件事:
一、是利用 AI 提升作品的信息价值,例如将复杂知识变得更具可视化的科普内容,让难懂的信息变得直观易懂;
二、是利用 AI 创作有辨识度的虚拟角色,或对已有 IP 进行有亮点的二次创作;
三、是借助 AI 进行视觉创作,产出有审美、有叙事的好作品,包括艺术插画、绘画,以及具备剧情逻辑的电影感短片。

小红书 AI 治理主张摘录
" 发布 AI 治理主张不是为了限制创作,而是为了给创作者提供更清晰的方向。" 小红书用户信任中心负责人吉吉表示。
在小红书鼓励的方向上,也已经有不少创作者探索出了有价值的 AI 创作路径。央美国画毕业生 @一方画猫呢 就是其中之一。她专攻宋代院体画,一幅作品需要近一个月的精细打磨,但在 AI 出现之前,因为缺少动画制作能力,这些静态的精美画作无法被更生动地呈现,如今,AI 帮她突破了 " 画不能动 " 的技术瓶颈。" 当我画的小龙猫可以实现穿云而过的效果,一下子感觉来了一个动画团队。" 一方在开放日现场分享道。在她看来,AI 是创作最后阶段的视觉效果放大器,而画面的原创性、核心想法和每一笔手绘,仍然由自己完成。
此外,AI 治理主张再次强调了创作者应对 AI 参与创作的内容进行主动标识,未进行标识的 AI 内容,平台将在识别后统一添加 AI 标识贴条。
吉吉向雷峰网表示:鼓励 AI 标识是为了保障用户的知情权,非违规内容,AI 贴条不会影响流量。目前,小红书已上线针对 AI 笔记贴条的申诉通道,创作者如果对 AI 贴条有异议,可通过该通道反馈。
坚决反对破坏社区真实底色的 AI 行为
在明确 " 鼓励的 AI 内容 " 的同时,小红书也梳理出了四类平台反对的 AI 行为:利用 AI 违规运营、利用 AI 造假、利用 AI 侵权,以及利用 AI 进行低质创作。
具体来说,平台反对利用 AI 全自动托管账号、AI 教唆做号等扰乱社区秩序的行为;反对 AI 造假行为,包括利用 AI 仿冒名人、虚构人设、伪造个人经历、编造虚假信息,或是恶搞经典作品、借热点进行低质营销;反对利用 AI 侵犯肖像权、著作权的行为;也反对利用 AI 批量生产同质化内容、生成猎奇博眼球的极端画面,或是传播不良价值观等低质创作行为。

" 小红书社区是真实的人与人之间的连接。AI 侵权、AI 造假等行为破坏了社区真诚分享的基础,也挤压了真实创作者的空间。" 吉吉在分享中表示,平台会根据违规程度采取梯度处理,包括限制曝光、警告、封禁等;对于明确由 AI 托管运营、无真实人类参与的账号,平台将予以封禁。
据悉,今年以来,小红书累计处置各类 AI 不良行为超百万例,其中 AI 托管账号超 80 万个、AI 造假笔记近 15 万篇。
与此同时,小红书在 AI 治理上持续加码:1 月 19 日发布《社区公约 2.0》,明确反对虚假,鼓励用户对 AI 内容进行主动标识;2 月 12 日发布加强自主标记 AI 生成合成标识的公告;3 月 10 日发布打击 AI 托管运营账号的治理公告;4 月 27 日首次完整输出 AI 治理主张,形成对创作者和用户的完整指引。
对小红书而言,此次 AI 治理主张的发布,既是社区 " 真诚分享 " 价值观在 AI 时代的延续,也是和社区内创作者们的一次有效沟通。当越来越多平台开始思考与 AI 的距离,内容生态才有可能在技术进步中守住 " 人 " 的价值。