关于ZAKER 免费视频剪辑 合作 加入

知名男星上海起诉!向 B 站 up 主索赔 27.5 万元…背后的这种技术让人脊背发凉

近日

" 林俊杰向 B 站 up 主索赔 27.5 万 "的新闻

登上热搜

引起了广泛关注

9 月 23 日

一份法院公告披露

上海市杨浦区人民法院受理原告林俊杰诉被告上海宽娱数码科技有限公司(B 站所有者和运营者)、肖某肖像权纠纷一案

该案送达公告透露

林俊杰起诉的原因与up 主 " 瓜瓜 Mars"

制作并上传的 AI 换脸视频有关

" 瓜瓜 Mars" 的 B 站首页

涉案侵权视频共有 6 部,目前已经全部下架,从标题来看,均为使用林俊杰肖像,替换原视频人物的 " 换脸 " 恶搞类视频,如 " 全员林俊杰版《See You Again》"" 全员 JJ 版《中国话》" 等。

原告诉讼请求

一、判令被告上海宽娱数码科技有限公司披露被告肖某在哔哩哔哩网站上经营的 UP 主账号 " 瓜瓜 Mars" 发布的涉案视频播放量、点赞量、分享量、评论提交量以及涉案视频获得收益等必要数据信息。

二、判令被告肖某在哔哩哔哩网站上经营的 UP 主账号 " 瓜瓜 Mars" 的主页以及《人民法院报》上就擅自使用原告肖像及姓名进行商业宣传一事向原告公开赔礼道歉。

三、判令被告肖某向原告赔偿经济损失 250000 元,精神损害抚慰金 20000 元,维权成本合理开支 5000 元,以上共计 275000 元

9 月 14 日,杨浦区人民法院依法向被告公告送达该案起诉状副本、证据副本、应诉通知书、举证通知书及开庭传票。

虽然

本案是以侵犯肖像权这一民事案由起诉

但这几年来

因 " 换脸技术 " 引发的违法犯罪行为不在少数

作为不可更改的 " 生物密码 "

" 换脸 " 产生的隐忧

可远不止恶搞名人这么简单

B 站为何也成被告?

在被告 " 瓜瓜 Mars" 的 B 站首页,记者看到,其中一个专栏名叫 "AI 换脸系列 ",共有 19 个视频,其中 18 个还可正常观看,最近一次更新于今年 5 月 9 日。这些视频中,恶搞的对象有黄晓明、王祖蓝、泰勒 · 斯威夫特等国内外知名演员、歌手。比如,该 up 主将泰勒 · 斯威夫特现场演出的一段视频中,女歌手的脸换成了王祖蓝,看起来就像是王祖蓝在现场演唱一般。

面对林俊杰提出的公开赔礼道歉、赔偿 27.5 万元等诉讼请求," 瓜瓜 Mars" 在 B 站动态回应称,自己做视频的收益只有几千元,不是传闻中的 25 万元。他还表示," 另外我知道今天其他平台(某瓣 某吧)有很多网友还是支持我的,我真的很感谢 "。

视频真的不能 P 吗?

从该 up 主上传的 AI 换脸系列视频来看,还是以 " 恶搞 " 为主,有重大侵权嫌疑,但还谈不上 " 多坏 "。可是,AI 换脸技术自诞生伊始,便频繁被人应用到违法犯罪中,这一点不得不防。

互联网上曾经有句调侃," 众所周知,视频是不能 P 的,所以是真的 "。虽有玩笑成分,可也代表了不少人对网络信息的看法:照片可以是假的,视频里的人肯定是真的。在技术尚不成熟时,也有一些恶搞视频,但这些恶搞视频中替换的人物头像宛如大头贴直接贴上去一般,假到一眼就能看出来。一些特效公司有能力做到以假乱真,但背后的技术门槛、付出的成本,远非普通网民个人能够触及。

直到2017 年底,一种人工智能基础的人物图像合成技术 deepfake 问世,本身是开源技术,又简单易操作,很快就让网友们玩得不亦乐乎。更可怕的是,deepfake 具有深度学习的功能,借助公共数据库,建模不断完善,视频中的人物表情越来越逼真,越来越难以辨别。

" 瓜瓜 Mars" 制作的另一个 " 换脸视频 ",你能分辨出这是泰勒 · 斯威夫特还是王祖蓝吗?

不出意料,deepfake 很快朝着人性的阴暗面一路狂奔。通过 deepfake 的 " 换脸 " 技术,包括电影《神奇女侠》主演盖尔 · 加朵在内的众多女明星的脸出现在了各类色情视频中,几乎可以做到以假乱真。问世不到 3 个月,deepfake 版块便被关闭,众多网友自发抵制。可是,潘多拉的魔盒已经打开,这项技术不可遏制地流传开来。

不久前,国内男演员刘昊然的脸也出现在了一段不雅视频中,几可乱真,逼得他不得不向警方报案。在互联网上,甚至出现了专门把女明星的脸 " 换 " 到淫秽视频中的黑色产业链。

看到这里,是不是已经觉得脊背发凉?但这或许还不是 AI 换脸技术带来的最大问题。

我们的脸还安全吗?

换脸技术的出现和普及,让我们不由得思考一个问题:我们的脸还安全吗?

9 月 24 日,上海市虹口区人民检察院也对外通报了一起破解 " 人脸识别 " 技术典型案例。犯罪分子通过破解人脸识别技术等方式,注册 " 皮包公司 " 用于虚开增值税普通发票。据悉,该犯罪团伙为他人开具增值税普通发票价税合计超过 5 亿元。

案件中,犯罪分子首先通过相关政务平台完成注册 " 皮包公司 ",过程中通过平台上注册人的人脸识别是注册成功的关键环节。为达到目的,犯罪团伙中专门从事人脸识别破解的成员表示,其一般先从他处以每个 30 元的价格购买他人的高清头像和身份证信息,之后利用 " 活照片 " 等 App 对高清头像进行处理,让照片 " 动起来 ",形成包括点头、摇头、眨眼、张嘴等动作视频。

同时,该团伙还破解了某广泛用于管理电子营业执照 App 的人脸识别系统。犯罪嫌疑人下载电子营业执照后,会在 App 里添加办事员的身份信息。虚开发票团伙就以此通过办事员身份使用电子营业执照。据犯罪分子交代,其破解的 App 类别非常广泛,涉及政务、安防、金融、支付、生活消费等用户量巨大的 App。每单的破解价格从 25 元到 300 元不等。

本案中负责破解人脸识别技术的犯罪分子使用的 App,全都可以在应用商店自行下载,他本人也不是什么职业黑客,而是某职业院校在校生,通过 QQ 群里的 " 大神 " 传授便学会了。而大量的人脸信息,还在互联网上流传、贩卖。

好消息是,对 " 人脸 " 的保护正越来越引起重视。今年 7 月 28 日,最高人民法院发布关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定,从法律层面对滥用人脸识别说 " 不 "。

" 鬼畜视频 "

本是 B 站二创视频的一大特色

但是搞笑玩梗

仍宜有度!

来源:上观新闻

编辑:力洪

责编:杨帆

以上内容由"ZAKER石家庄"上传发布 查看原文
一起剪

一起剪

ZAKER旗下免费视频剪辑工具

一起剪
头条新闻

头条新闻

时事热点 一手掌握

订阅

觉得文章不错,微信扫描分享好友

扫码分享

ZAKER | 出品

查看更多内容