
综合多家媒体周一报道,他们看到的《数字公平法案》(Digital Fairness Act)草案显示,欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的 AI 系统纳入监管。
草案预计于 11 月 11 日、即本周三公布,违规企业可能面临最高相当于全球年度营业收入 6% 的罚款。
这项法案可能影响 Meta、谷歌等科技巨头,以及一众电商平台。这些企业旗下的服务,很大程度上依赖与用户打 " 心理战 ":要么是通过机制设计拉长留存时间,或是通过运营手段诱导用户买单。
据报道,此次草案的一项关键要求,是让用户能够主动关掉那些不断把自己 " 拉回 " 应用的功能,包括自动播放、与用户自身活动无关的通知,以及连续打卡式奖励机制。按照草案,企业将须向成年用户提供关闭这类功能的选择。
AI 聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容,如果 AI 系统通过模拟人际关系来鼓励用户持续互动,相关功能也将受到约束,用户应有权将其关闭。
从商业模式看,这类规则可能触及平台提高用户留存和使用时长的常用手段。对于依靠广告变现的社交平台,用户停留时间与广告展示机会密切相关;对于 AI 应用,持续互动则可能影响用户活跃度和付费转化。
欧盟针对 " 成瘾设计 " 的行动早有铺垫。
今年 2 月,欧盟委员会依据现行《数字服务法》,初步认定某短视频平台的成瘾性设计违反相关规定,涉及功能包括 " 无限滚动、自动播放、推送通知和高度个性化的推荐系统 "。
拟议中的《数字公平法案》将进一步从消费者保护角度处理这些问题。欧盟委员会公开资料显示,该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法,以及数字合同等问题,尤其关注未成年人等易受影响的消费者。
在打击诱导过度使用的功能之外,草案还拟为网站和应用列出一份包含 10 类操纵性设计的禁用清单。据报道,这些通常被称为 " 暗黑模式 " 的设计,将被认定为在任何情况下均属不公平行为,监管机构无需再逐案证明其造成的损害:
1、让取消服务的难度明显高于注册;
2、隐藏价格或自动续费条款;
3、虚假暗示用户别无选择;
4、对商品供应量或受欢迎程度作出虚假或缺乏必要限定的宣称;
5、在结账过程中反复强调稀缺性;
6、预先勾选会增加额外商品或购买数量的选项;
7、把拒绝包装成 " 错误选择 ";
8、反复要求用户改变已经作出的决定;
9、使用令人困惑的双重否定;
10、伪造有人联系用户的通知。
... 以及,欧盟委员会将可在无需重新启动立法程序的情况下,向清单增列新的操纵性手段。
据报道,草案还拟要求在线订阅提供明确的合同终止按钮,免费试用转为收费订阅前须取得消费者主动同意,并在自动续费前发出提醒。针对未成年人,草案拟禁止电子游戏中的付费随机宝箱和 " 付费获胜 " 机制。监管范围由此从使用时长延伸至消费转化和持续扣费。
欧盟委员会的影响评估估计,这些规定将在 2025 年至 2035 年间为消费者避免 884 亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内,每年带来的收益预计为 137 亿欧元。相比之下,在避免重复计算各项措施的成本后,企业为遵守新规每年需持续支出的费用预计合计为 6.78 亿欧元。
不过,这项立法仍处于早期阶段。草案尚须经过欧洲议会和成员国审议,具体条款仍可能调整。按照目前披露的草案,该条例将在生效 12 个月后开始适用。
据报道,德国政府上月中旬已提出反对意见,主张修改现有消费者保护指令,而非另建一部横跨多个领域的新法律,并质疑将现行《不公平商业行为指令》改为条例的必要性 " 尚未得到充分证明 "。