关于ZAKER 融媒体解决方案 智媒短视频 合作 加入

南京女子疑遇 AI 换脸被骗钱,记者调查:多款换脸 App 可轻松换脸

现代快报讯(记者 季雨)近日在南京,一女子疑遇 AI 换脸被骗 3000 元,虽然被骗数额不大,但换脸背后的隐患却让人捏了一把汗。现代快报记者发现,市面上仍有多款 App 可轻松实现换脸。AI 换脸作为一种新兴科技,此前缺少专门的法律法规对其约束。但民法典实施后,已经将 AI 换脸纳入肖像权的保护范围。

事件

" 同学 " 借钱找上门,发来短视频证明是 " 本人 "

1 月 10 日,来自东北的小李和妈妈来到南京旅游。这时,她的大学同学小王通过 QQ 联系了她,并说自己的表姐生病住院了,急需用钱。

小王称自己的银行卡被冻结了,但表姐生病急需用钱,所以想向小李借点钱。小李并没有第一时间转账,而是想先确认小王的身份。

" 我给她打电话,她说她不方便就没接,一会给我打一个视频电话。" 小李说,正是这段四五秒钟的视频通话,让小李确认对方就是曾经隔壁寝室的同学小王。但比较奇怪的是,小王在短暂的视频中没有说话。小李在视频结束后,打消了疑虑,和母亲商量准备扫码将 3000 元钱转出去。

不过令小李万万没想到的是,自己如此谨慎,还是上当了。后来,当小李电话联系上小王后,小王称自己的 QQ 被盗了。

据此,南京市公安局秦淮分局五老村派出所民警判断,小李看到的小王那段视频,很可能被人做了手脚。" 很可能就是犯罪分子得到了小王的一些信息,比如她的面部照片,通过 AI 换脸技术,找一段在医院里的视频,把小王的脸切到医院实际拍视频的那个人脸上。" 民警张子旭介绍," 所以对方发视频给小李的时候,是没有太大动作的,只是头微微动了一下,显示这个人是一个活动的状态,不是一个静止的状态,以此来取得受害人的信任。"

调查

多款 App 可实现换脸,有明星及素人多款模板

2019 年,有一款 AI 换脸软件在网络上一夜爆红,用户只需上传一张自己的照片,就可以将影视剧或综艺节目里明星的脸换为自己的脸。由于这项技术过于真实,达到了 " 以假乱真 " 的效果,因此引发了人们关于肖像侵权的大讨论,该款软件因此还进行过下架整改。

近日,现代快报记者在手机应用商店进行搜索,发现除了该被整改的软件外,还有 AI 换脸 App 可轻松实现换脸。这数款软件都含有明星、网红、素人等模板,使用者可以挑选自己心仪的模板,既可图片换脸,也可实现视频换脸。

记者选取了自己的一张正面照,在其中一款 App 里进行了视频换脸,整个过程仅用了不到 10 秒钟,一个来自于热门古装剧截选片段的换脸视频便诞生了。不过这次软件却是非常 " 谨慎 " 地在视频上,打上了 " 侵权警告,保护模式 " 的字样,表明 " 为了隐私安全,无法保存和分享 "。

但是其他的换脸软件,可就没有这款软件如此 " 谨慎 " 了。记者用了同样一张照片,在另一款 App 上进行了换脸,并选择了某当红女星红毯视频,同样是不到 10 秒的时间,一个有着记者脸的红毯女星视频诞生了。并且,这个视频无水印、无侵权分享安全提示,可以轻松下载至手机中,也可在各大社交平台进行发布。

律师

民法典来了,AI 换脸再也不能 " 肆意妄为 "

AI 换脸作为一种高科技技术,也是一把 " 双刃剑 "。在司法实践中,有人会用这种非法手段侵犯他人肖像,甚至通过抠图、换脸等方式进行侮辱、诽谤性使用。此前," 葛优躺 " 表情包走红,演员葛优本人却遭遇各个公众号和商家的侵权困扰,他拿起法律武器维护权益,最终这些官司都以葛优胜诉终结。

2021 年 1 月 1 日,民法典正式实行后,对 AI 换脸方面的法律问题,也有了具体的规定。民法典第 1019 条明确:任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

江苏舜点律师事务所律师衡晓春分析,民法典的条款出台,意味着未经他人许可而随意使用他人的肖像,用 " 换脸 " 技术伪造制作视频就属于违法,即使是不以营利为目的恶搞或玩笑,也是侵犯他人肖像权的行为。

以上内容由"现代快报+ZAKER南京"上传发布 查看原文

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容