关于ZAKER Skills GEO服务 合作
财联社-深度 9分钟前

欧盟拟向“成瘾设计”开刀:社交媒体、AI 聊天机器人面临新规

财联社 11 月 10 日讯(编辑 史正丞)从让人停不下来的短视频,到借助情感互动留住用户的 AI 聊天机器人,科技公司争夺用户时间的产品设计,正成为欧盟新一轮监管的焦点。

综合多家媒体周一报道,他们看到的《数字公平法案》(Digital Fairness Act)草案显示,欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的 AI 系统纳入监管。

草案预计于 11 月 11 日、即本周三公布,违规企业可能面临最高相当于全球年度营业收入 6% 的罚款。

这项法案可能影响 Meta、谷歌等科技巨头,以及一众电商平台。这些企业旗下的服务,很大程度上依赖与用户打 " 心理战 ":要么是通过机制设计拉长留存时间,或是通过运营手段诱导用户买单。

据报道,此次草案的一项关键要求,是让用户能够主动关掉那些不断把自己 " 拉回 " 应用的功能,包括自动播放、与用户自身活动无关的通知,以及连续打卡式奖励机制。按照草案,企业将须向成年用户提供关闭这类功能的选择。

AI 聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容,如果 AI 系统通过模拟人际关系来鼓励用户持续互动,相关功能也将受到约束,用户应有权将其关闭。

从商业模式看,这类规则可能触及平台提高用户留存和使用时长的常用手段。对于依靠广告变现的社交平台,用户停留时间与广告展示机会密切相关;对于 AI 应用,持续互动则可能影响用户活跃度和付费转化。

欧盟针对 " 成瘾设计 " 的行动早有铺垫。

今年 2 月,欧盟委员会依据现行《数字服务法》,初步认定某短视频平台的成瘾性设计违反相关规定,涉及功能包括 " 无限滚动、自动播放、推送通知和高度个性化的推荐系统 "。

拟议中的《数字公平法案》将进一步从消费者保护角度处理这些问题。欧盟委员会公开资料显示,该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法,以及数字合同等问题,尤其关注未成年人等易受影响的消费者。

在打击诱导过度使用的功能之外,草案还拟为网站和应用列出一份包含 10 类操纵性设计的禁用清单。据报道,这些通常被称为 " 暗黑模式 " 的设计,将被认定为在任何情况下均属不公平行为,监管机构无需再逐案证明其造成的损害:

1、让取消服务的难度明显高于注册;

2、隐藏价格或自动续费条款;

3、虚假暗示用户别无选择;

4、对商品供应量或受欢迎程度作出虚假或缺乏必要限定的宣称;

5、在结账过程中反复强调稀缺性;

6、预先勾选会增加额外商品或购买数量的选项;

7、把拒绝包装成 " 错误选择 ";

8、反复要求用户改变已经作出的决定;

9、使用令人困惑的双重否定;

10、伪造有人联系用户的通知。

... 以及,欧盟委员会将可在无需重新启动立法程序的情况下,向清单增列新的操纵性手段。

据报道,草案还拟要求在线订阅提供明确的合同终止按钮,免费试用转为收费订阅前须取得消费者主动同意,并在自动续费前发出提醒。针对未成年人,草案拟禁止电子游戏中的付费随机宝箱和 " 付费获胜 " 机制。监管范围由此从使用时长延伸至消费转化和持续扣费。

欧盟委员会的影响评估估计,这些规定将在 2025 年至 2035 年间为消费者避免 884 亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内,每年带来的收益预计为 137 亿欧元。相比之下,在避免重复计算各项措施的成本后,企业为遵守新规每年需持续支出的费用预计合计为 6.78 亿欧元。

不过,这项立法仍处于早期阶段。草案尚须经过欧洲议会和成员国审议,具体条款仍可能调整。按照目前披露的草案,该条例将在生效 12 个月后开始适用。

据报道,德国政府上月中旬已提出反对意见,主张修改现有消费者保护指令,而非另建一部横跨多个领域的新法律,并质疑将现行《不公平商业行为指令》改为条例的必要性 " 尚未得到充分证明 "。

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容