关于ZAKER 合作 加入

淫秽视频可“定制”女星,35 部视频打包 69 元

新京报 07-18

AI(人工智能)换脸的飓风,正为网络安全带来挑战。

记者近日调查发现,随着 AI 技术走红以及门槛降低,售卖明星换脸的淫秽视频已经成为一门地下生意。百度贴吧中部分标榜 " 换脸+女明星姓名 " 的发帖者,售卖通过 AI 换脸技术合成的视频,价格可 4 元一部,也可 158 元打包购买 700 部视频。而多位知名女明星频被提及。

此外,记者注意到,闲鱼上还有卖家提供 " 定制换脸 " 服务。买家提供明星或私人照片,卖家即可将淫秽视频中的主角 " 移花接木 "。定制换脸视频 1 分钟 20 元-50 元不等。

对此,联合国网络安全与网络犯罪问题高级顾问吴沈括对新京报记者表示,售卖 AI 换脸淫秽视频,本身已经是传播淫秽物品牟利罪,同时也侵犯了肖像权。而买家购买之后加以传播或者以传播牟利,则可能构成违法。

▲买家提供明星或私人照片可实现定制换脸。

售卖

女星频被 " 换脸 ",35 部视频打包 69 元

记者搜索发现," 换脸 "、"Deepfake" 以及 "FakeApp" 贴吧等都存在售卖 AI 换脸淫秽视频的帖子。发帖者多为无头像、简单英文字母名称的用户,而且发帖用词隐晦,包括 " 国内外 81 部,诚信第一 "。

记者联系到一位名为阿长(化名)的卖家,其随后发来 "80 部明星合成视频列表 " 的压缩包,包含多部淫秽视频的列表截图,文件名上标注出多位大众熟知的女明星。

"(购买)低于 15 部算 4 元一部,超过 15 部算 3 元一部,80 部全买只要 68 元。" 阿长表示,视频文件将通过 QQ 文件发送,支持微信、支付宝、QQ 红包等支付方式。记者 4 元随机购买了一个标题为某知名女明星的视频。视频中女主角脸部全部替换成了该女明星,尽管换脸效果粗糙,但仍能一眼识别出来。

随后,阿长附赠了相关视频的剪辑版本,包含多个淫秽视频的部分内容,其中女主角的脸全被替换成了这一女星。

另一位发帖的卖家林祥(化名)则是向记者发送了网盘链接,网盘中除了视频目录、截图、试看视频等文件,还包括一个单独被命名为某知名女明星目录的文件。

" 打包价 158 元,700 部视频,买打包送截图。" 林祥提供的压缩文件显示,多位女明星被换脸成主角的频率最高。

" 有 30 分钟、40 分钟的,也有 5 分钟的,有像的也有不像的,所以单买价格不可能一样。" 林祥称,单个视频根据时长和制作效果定价。

而上述某知名女明星目录文件中包含 35 部视频,打包价 69 元,单卖约 5-10 元一部。时长 10 分钟以上的视频为每部 20-28 元。

记者询问阿长,其他售卖相关视频的卖家是否也是他时,他随即否认并拿出更新目录。" 他肯定没这些,我这会更新 "。他告诉记者,这些视频并非自己制作,均来自国内某网络平台,充值会员可以下载,然后再分销。

不过,记者通过检索并未发现这类国内网络平台。

定制

提供照片或视频可移花接木," 照片越多越像 "

除了百度贴吧,二手闲置平台闲鱼同样存在相关售卖信息。记者在闲鱼上搜索 "AI 换脸 " 看到,"AI 换脸 明星最全精品 "、"AI 换脸,合集,都懂!" 等信息,实则在售卖 " 嫁接 " 了女明星脸部的淫秽视频。

记者分别与 4 位卖家进行了沟通,其一般会提供标有女明星姓名的目录截图,并以 100 部打包的形式售卖,价格从 10 元-38 元不等。卖家子君(化名)告诉记者,在他打包售卖的淫秽视频中,知名女性明星被恶意 " 嫁接 " 的最多。

此外,记者检索闲鱼发现,部分卖家还提供 " 定制换脸 " 服务,买家提供明星或私人照片,卖家可将照片中的脸 " 嫁接 " 到包括淫秽视频在内的任何视频之中,制作周期为 1-2 天,报价 1 分钟 20 元-50 元不等。

卖家高尔(化名)表示,视频素材和照片需要买家提供。" 照片要多点,侧面等各个角度,至少需要提供二十张以上。照片越多越像,没照片发视频也行 "。

另一卖家要求,如果是 " 换脸 " 淫秽视频,3 分钟起做。该卖家的定制价为一分钟 50 元、二分钟 95 元、三分钟 135 元,也就是说,买家至少要花费 135 元才能定制换脸淫秽视频。

记者近日在闲鱼平台搜索 "AI 换脸 " 显示 9 个商品售出,包括 " 换脸软件 "、" 定制换脸 " 和 " 换脸教学 ",有部分卖家在商品信息中注明," 本店仅负责服务配置环境和教授基础知识,不帮忙操作,请各位自觉遵守当地法律,否则后果自负 "。

记者调查过程中注意到,闲鱼平台已将部分淫秽视频售卖链接删除。

此外,记者在淘宝搜索 "AI 换脸 ",20 多家店铺有相关售卖信息。记者随机询问 7 家店铺,其中 4 家店铺提供定制服务,但有卖家明确表明 " 不做黄、不办证 "。该卖家还向记者默认曾有人要求他制售假证。

▲网上售卖 AI 换脸制作的淫秽视频信息。

教学

卖家称 398 元包教会,学生打七折

记者在查看上述视频时注意到,部分视频有 " 合成联盟 " 的字样及其 QQ 号水印。记者通过这一 QQ 号联系到昵称为 " 明星合成+教学+代做视频 " 的卖家,其称不仅售卖明星换脸视频和定制换脸服务,还提供教学服务。

" 买教学送全套视频,600 多部。" 该卖家表示,他提供 AI 换脸视频的制作教学服务,售价 398 元,包教会并附赠淫秽视频 600 多部。" 我们用的云电脑,做出来效果是 Deepfake 的几十倍。" 该卖家告诉记者," 买云电脑送 FakeApp 和 DeepNude。"

卖家提供的教学内容显示,用户根据指引,完成 " 链接到云硬盘、提取脸部数据、训练模型、换脸输出视频 " 四个步骤就能实现 AI 换脸视频的制作。

" 感谢你们的信任,(学员)昨天下午刚学的,不到 3 个小时全会,只要想学我都会尽心尽力的教你们。" 该卖家的微信朋友圈显示,已有多位学员学习了相关 AI 换脸技术。

记者翻阅卖家朋友圈看到,"AI 智能暑假期间所有学生凭学生证一律 7 折,一学就会,不费劲。" 而卖家提供的截图显示已有学生提供学生证信息,并购买了该教学服务。

根据《纽约时报》报道,Deepfake 指的是用人工智能软件制作的虚假视频,由 FakeApp 程序创建而成,FakeApp 则可实现 AI 换脸。而 DeepNude 可通过人工智能将照片中穿着衣服的人物实现 " 一键脱衣 " 的效果。

" 随着科技的发展,大众一定会面临这样的问题,DeepNude 生成的照片并不是本人,而是 PS 后效果。" 网络安全专家张百川在接受新京报记者采访时表示,目前网络上已存在部分人士开始研究类似的算法。

同时,针对网络安全,吴沈括指出,《网络安全法》确立了网络产品和服务的安全可控原则,将他人肖像用于制作淫秽视频或者利用网络技术 " 作恶 ",是对他人合法权益的侵害。

▲卖家提供的网盘内容包括多个淫秽视频。

争议

换脸视频网络扎堆,个人难防中招

其实,AI 换脸技术,已经在各个领域沿用许久。而运用最广泛的领域便是电影。据此前报道,中国科学院计算技术研究所张杰解释称," 这个技术简单可理解为,通过学习的方式让一个神经网络把李四扭曲过的人脸还原成真实的人脸。" 该神经网络在学习后,具备了将任意的人脸,还原成 " 李四 " 人脸的能力。

早在今年年初,一段通过 AI 技术将《射雕英雄传》中朱茵脸部替换成杨幂的视频在网络引起热议。记者搜索发现,视频网站哔哩哔哩(B 站)上存在大量 AI 换脸视频,且人气较高。其中,一个将蔡徐坤脸部替换成前网络游戏主播卢本伟的视频,播放量达到 253.1 万。不少网友在相关视频评论区留言称 " 毫无违和感 "、" 好笑哈哈哈 "。

阿乐(化名)告诉者,出于猎奇和娱乐心态,自己喜欢在哔哩哔哩观看 AI 换脸视频。" 把外国人的脸换在古装人物身上,很新奇。" 但也有网友在相关评论区称 "AI 换脸(可能用于)敲诈勒索色情造谣,技术无罪,果然还是人本恶 "。

律师、星娱乐法创始人李振武曾对记者表示,视频制作者未经朱茵和杨幂许可,擅自使用其肖像,虽其抗辩未有营利行为,但在互联网语境里,流量变现以及粉丝倍增,都很难解释为非营利行为,因此,此举可能涉嫌侵犯肖像权。

有观点认为,AI 换脸技术门槛正在不断降低。对此,张百川称:" 放在以前的话,技术难度非常大,已经有人开始研究这种算法了,如果算法公开,这种趋势将很难抵挡 "。

张百川告诉记者,普通人可能不太容易学会 AI 换脸技术,但有人可能利用此项技术制成有类似功能的软件,那么普通人只要在 APP 上传照片即可。针对个人如何防范,张百川表示:" 很难,如果你有照片在互联网上,就会有(被利用)的风险 "。

记者注意到,Deepfake 和 DeepNude 在国外已引起热议,据《纽约时报》报道,随着越来越多的人利用 FakeApp 制作名人的色情视频,FakeApp 正在引起恐慌。《卫报》称此类软件为 " 对未来可怕的一瞥 ",显示了对人工智能未来可能造成的伦理问题的担忧。

当地时间 7 月 2 日,美国弗吉尼亚州已通过一条有关色情禁令的法律修正案,成为美国首批禁止传播计算机生成的色情内容的地区之一。根据修正案,未经许可传播或出售以任何方式创作的某人处于裸体或脱衣状态的视频或静止图像都是违法的,包括虚假创作的视频或静止图像。

在我国,根据《刑法》第三百六十三条规定,以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,处三年以下有期徒刑、拘役或者管制,并处罚金;情节严重的,处三年以上十年以下有期徒刑,并处罚金;情节特别严重的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。

联合国网络安全与网络犯罪问题高级顾问吴沈括表示,就中国法律来讲,售卖 AI 换脸淫秽视频,本身已经是传播淫秽物品牟利罪,同时在民事侵权领域,未经允许,将他人的肖像用于谋利的,也侵犯了肖像权。

针对 AI 换脸淫秽视频的购买者,吴沈括告诉记者,目前对于购买淫秽物品没有设置法律责任,主要集中在传播淫秽物品和传播淫秽物品牟利两种非法形式。买家在购买 AI 换脸淫秽视频之后,加以传播或者以传播牟利,则可能构成违法甚至犯罪。

张百川认为,技术本身没有问题,是有人利用技术作恶,大众需在日常生活中,注重个人隐私保护。" 例如即时通讯软件,有人用它工作,有人用它诈骗。"

以上内容由"新京报"上传发布 查看原文

相关阅读

最新评论

没有更多评论了