关于ZAKER 合作
钛媒体 20分钟前

AI “辣聊”翻车,谁在允许偶像被“分身擦边”?

文 | 深眸财经

谁来定义偶像的 " 亲密权 "?

6 月初,一款主打偶像 AI 聊天的应用 Almigo 掀起争议漩涡。

该应用由中型娱乐公司 RBW 与 AI 技术公司 KLLEON 联合推出,提供与旗下艺人包括 Solar(MAMAMOO)、许龄智(KARA)、效定(OH MY GIRL)等在内的 "AI 分身 " 互动功能,却因被质疑存在疑似擦边功能,被全网声讨。

AI 合成语音、复刻形象、拟人对话,本是看似顺理成章的技术拓展。而从 " 陪伴 " 到 " 擦边 ",AI 介入得有多深,才算越界?

01 AI 分身辣聊风暴

据悉,在这款 AI 应用 Almigo 上,用户不仅可以文字聊天、听 AI 仿生语音回复,甚至还能开启仿真人脸的视频对话。

而最具争议的部分,落在了名为 "Spicy" 的付费功能上。该功能宣传中暗示,付费用户可以与 AI 偶像进行更私密、更亲昵的交流。

尽管内容以文字为主,但不少用户发现对话中频繁出现擦边暗示、挑逗用语,并通过 " 对我撒娇吧 "、" 你喜欢什么样的男生 " 这类回复设置,制造暧昧气氛。

而在平台未对用户身份、年龄做出明确限制的情况下,部分未成年偶像的 AI 形象也被纳入可互动角色之列,使得舆论质疑进一步升温。

与此同时,社交媒体上很快炸锅。

推特、Instiz 等社交平台上涌现大量抗议声音:"AI 物化女性 "、"Deepfake 犯罪 "。不少海外粉丝也联合发起 Tag" 运动抵制 Almigo"。事件发酵后,艺人 Solar 本人通过粉丝平台回应称 " 已向公司表达意见 ",但表态克制,并未直接提及合成内容的授权过程。

最终,在上线不到 48 小时后,RBW 宣布下架 APP,并向公众致歉。KLLEON 也发布声明称将 " 重构模型 "、" 暂停商业推广。"

面对争议,KLLEON 代表在 6 月 9 日接受《韩民族日报》采访时表示:"Almigo 从技术上并不可能进行与偶像的性暗示对话 ",并强调平台已采取相关措施,以遵守 AI 伦理准则。他还补充称,项目自 2023 年初启动,已通过所属公司向艺人们 " 充分传达相关内容 ",但 " 可能在沟通上产生了一些偏差 "。

一场试图借 AI 变现的新尝试,在数天内以道歉、下架、口碑下滑收场。然而,其引发的讨论远未平息。

02 推手与共谋

这场 AI 应用的越界是如何发生的?

从表面看,这似乎只是 AI 公司过度逐利、娱乐公司监管不力。

但若回溯合作背景会发现,RBW 与 KLLEON 并非简单的甲乙方关系,而更像一组利益一致、愿赌同输的 AI 投机联盟。

KLLEON 是韩国近年来颇具代表性的 AI 内容创业公司之一,成立于 2018 年,核心产品包括 AI 视频转换平台 KAMELO、AI 人设生成工具 Klone 以及数字人实验性服务 Killing。

该团队以 KAIST 和首尔大学的 AI 专家为主,曾获得韩国信息通信技术创新奖、入围 CES 创新奖单元,创始人姜重赫与黄素贤还双双入围 2023 年《福布斯》亚洲版(Forbes Asia)的 "30 Under 30" 榜单。

此前他们曾与 CJ ENM、MBN 电视台合作实验虚拟主持人等内容项目,积累一定技术口碑。

而 RBW 的介入,并不只是合作授权方那么简单。

据韩媒《Digital Daily》报道,RBW 在 2023 年就已参与 KLLEON 的 A 轮融资,成为公司战略股东之一。根据商业登记信息,两家公司在日本市场的分公司地址也高度重合,有分析认为二者在海外市场开拓中可能存在资源整合、渠道共享等合作。

在 AI 成为韩娱新热词的当下,RBW 显然希望借 Almigo 抢占一席之地。作为拥有 MAMAMOO、Purple Kiss 等艺人的中型娱乐公司,RBW 在近年面对 K-Pop 高度竞争时显露出一定的增长瓶颈——新人女团 Purple Kiss 尚未走红,而 MAMAMOO 成员个体活动多、团体曝光少,粉丝增长趋缓,公司迫切希望寻找新的收入增长点。

同时,RBW 作为 KLLEON 股东之一,本身就对 AI 技术商业化有利益诉求。推出合作产品既可以验证投资成果、分享收益,也有助于 RBW 对外树立科技先锋形象。在如今娱乐业与 AIGC 结合的趋势下,RBW 希望走在前列,通过 AI 偶像互动开创行业新模式,抢占赛道高地。

相比耗费人力拍真人综艺、办巡演、开粉丝见面会,一个可复制、可全天候运营的 "AI 艺人 " 看起来更具 ROI 潜力,还能绑定会员制度带来持续收益。

归根结底,这是一种试图 " 低成本再造偶像生产力 " 的想象。

但问题在于,RBW 高估了技术换情感的能力,也低估了粉丝对 " 拟人亲密关系 " 的边界执念。特别是在女偶像深陷过度物化争议已久的背景下,这种将 AI 作为 " 定制情欲陪聊 " 的操作,不仅踩到了粉丝心理底线,也引发公众对 " 女性 AI 商品化 " 的普遍警惕。

RBW 的问题,并非出在对 AI 技术的想象力,而是缺乏想象力之外的判断力。这次冒进不仅没有带来预期收益,还导致市场信任度直线下降、粉丝群体流失与艺人受挫,可谓得不偿失。

有业界评论指出,RBW 此举也暴露出中小型娱乐公司在品牌转型上的浮躁,一味追赶 AI 风口,却忽视了偶像关系的核心资产:粉丝对艺人的情感投射,以及公司对艺人品牌的长期培育。

短视逐利而损害这两类关系,则终将自食恶果。

03 谁来决定亲密的尺度?

AI 偶像并不罕见。

早在 2010 年代中期,Hatsune Miku 等虚拟偶像便已完成从 " 技术产物 " 到 " 文化角色 " 的跃迁;日本市场也早已培育出虚拟 YouTuber、AI 歌姬等成熟品类,粉丝乐于接受 "TA 们本就不真实 " 的前提,与其建立独特的投射关系。

这类虚拟形象并无现实对应人物,公司对其拥有完全的控制权和 IP 归属,公众的关注点主要集中在 " 技术实现 " 和 " 人设魅力 ",而非伦理风险。

近年兴起的 AI 聊天平台,如 Character.AI 与 Replika,则将 AI 拟人推向了 " 对话亲密关系 " 维度。

前者允许用户创建包括明星在内的各类角色 AI,自娱自乐为主,系统会过滤露骨语句,强调这些 AI" 不是本人 ";而后者则一度鼓励用户与 AI 伴侣发展恋爱甚至情色关系,最终因过界问题引发争议,在 2023 年被迫调整 " 成人模式 " 权限。

但无论是哪种模式,它们大多划清了底线,包括回避使用现实艺人真实姓名、脸部建模或声音采样;明确标注 AI 为虚拟形象,避免误导;以及控制内容尺度,杜绝情色诱导或擦边营销。

Almigo 的争议,正是在于它同时违背了法律与伦理的两重准线——既动用现实偶像的图像与语音,又在内容上模糊互动界限,制造有意的暧昧空间。

在法律尚未完全明确 " 数字人格权 " 的当前阶段,一个至关重要的问题被摆上台面:公司是否有权以 " 授权 " 为名,让 AI 分身替艺人进入模糊的亲密关系场?哪怕合约上允许合成语音或形象生成,是否也应单独征得偶像本人对具体应用场景的知情同意?

不少行业观察者指出,这种合成互动如果涉及性暗示,其伦理风险几乎等同于未经授权的深度伪造内容。

此外,作为最常被 AI 拟像瞄准的群体,女性偶像的权利边界也因此再度受到挑战。即便 Almigo 中不存在直接裸露或猥亵对话,技术手段的开放性本身就为滥用埋下隐患—— AI 模型极易被二次 " 训练 " 说出低俗话术、生成性别暴力内容,成为对偶像的另一种深伪式伤害。

更重要的是,偶像本就是高度依赖公众情感想象的存在。一旦与 AI 形象之间产生混淆,她们所面对的不只是权责的模糊,更是人格边界和情感认知的持续侵蚀。

粉丝愿意为情感投资,但这份投资从不是对算法的投注。RBW 这次的翻车,并非 AI" 不可用 ",而是技术滥用。

技术可以突破场景,却不能突破体验的边界。AI 确实为娱乐业带来了前所未有的想象空间——数字人能让偶像同时出现在千千万万粉丝面前,虚拟偶像可以 24 小时营业 " 永不塌房 ",但偶像产业始终建立在真实连接之上,有着脆弱而珍贵的情感生态和伦理底线。

相关标签