关于ZAKER 智媒短视频 合作 加入
上观新闻 03-04

火爆全网的”蚂蚁呀嘿“ AI 特效 App 被下架!从登顶到凉凉,只过了 7 天

" 蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀哈,蚂蚁呀哈哈 ......" 过去一周,在微信朋友圈、微博、抖音等社交媒体平台,相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了。

然而这款名为 Avatarify,火爆全网的 AI 换脸软件从 2 月底冲上苹果 App Store 免费榜第一,到 3 月 2 日凌晨从 App Store 中国区悄然 " 下架 ",只用了不到一周的时间。目前官方未给出具体下架原因,业界猜测该款软件可能涉及隐私安全等问题。

因 " 蚂蚁呀嘿 " 特效火爆全网

最近,在某短视频社交平台上,一个叫作 " 蚂蚁呀嘿 " 的特效火了。许多网友都将自己的照片导入一款名为 Avatarify 的 " 变脸 " 软件中,照片会被算法驱动,变成一段跟着节奏晃动的视频。

这款软件有多火?

据东方网,移动应用数据分析平台七脉数据显示,2 月 25 日 0 点,Avatarify 在中国区 App Store 的免费 App 榜单仅排名第 65,而到了当日下午五点,Avatarify 蹿升至免费榜第一名,并一直持续到 3 月 1 日。

直到 3 月 5 日,抖音 # 蚂蚁呀嘿 # 相关话题播放总量已超 29 亿次,特效被 785 万人使用。

据东方网,Avatarify 的名称来源于 " 阿凡达 " 电影,创作者是一位开发工程师,最初只是因为疫情期间过于太无聊,才开发了这款变脸应用并将其开源。其实 Avatarify 早在去年 7 月就已经上线,但一直不温不火,直至 " 蚂蚁呀嘿 " 特效蹿红后,才带火了这款软件。

这款软件通过 AI 换脸技术让图片动起来,为网友带来新奇好玩的娱乐体验,同时,蚂蚁呀嘿短视频的灵魂在于 BGM,为人物增加了反差效果,从马斯克、马化腾等科技公司大佬,吴京、甄子丹等演艺界明星,到蒙拉丽莎等世界名画,甚至猫猫狗狗们,都唱起了 " 蚂蚁呀嘿 "。

软件运行的原理是将别人的脸套在自己的表情上进行实时驱动。用户只需要三步:导入手机里的人脸图片,选择视频模板,软件就能自动生成短视频,再一键保存即可。如果想要照片中的多人都动起来,根据抖音中大多数视频制作教程,则还需要一些剪辑软件加以辅助。

据中国商报,目前的换脸技术与国外一款开源的 AI 换脸软件 deepfake 极为相似。deepfake 的核心技术是一种名为生成式对抗网络(GAN)的框架,该网络有两个模块,一个负责生成伪图,另一个负责鉴别生成图片的质量,通过 " 对抗博弈 " 的方式不断进化,达到以假乱真的水平。

从中国区 App Store 下架

就在一众网友玩的兴起的时候,3 月 2 日,在火爆了不到一周后,Avatarify 却悄然从 App store 下架了。

关于下架原因,目前官方并未说明。有网友表示,Avatarify 只从中国区 App Store 下架,其余地区仍可正常下载,下架原因或与此前火爆一时的 "ZAO" 下架原因类似,涉及隐私安全等问题。但目前在 App Store 上,还有一批 " 蚂蚁呀嘿同款特效 " 的 App。

实际上,Avatarify 遇到的问题早就出现过。

早在 2019 年,一款名为 "ZAO" 的换脸社交软件在朋友圈刷屏,这款 App 由陌生人社交巨头陌陌开发,用户只需要一张正脸照,就可以替换影视作品或者小视频中的人物,生成以自己为主角的视频片段。

不过,这项技术在带来创新体验的同时,也存在被滥用甚至侵害他人权益等额外风险,这也是 Avatarify 和 ZAO 引发质疑的共同原因。

虽然 ZAO 曾在其官方微博发布声明称,没有采集任何个人生物识别特征、不会存储个人面部生物识别特征信息、使用 ZAO 不会产生支付风险等,但依然无法打消用户的疑虑,并引起了有关部门的关注。ZAO 的口碑遭遇 " 滑铁卢 "。

值得注意的是,由于 Avatarify 采用的是免费下载 + 内购的形式,用户若想在生成的动图及视频中去除水印、增加内存,则需要付费。据了解,此前 Avatarify 一周的使用价格为人民币 18 元,包年价格为 253 元,首周免费。对于这个价格与服务,用户的接受度并不高。

赚钱的反倒是网店。尽管 Avatarify 被突然下架,大众对 " 蚂蚁呀嘿 " 类视频需求并没有因此减弱。据北京日报,目前在淘宝、闲鱼等平台上仍有这类视频的代制作服务。" 很多人想用‘蚂蚁呀嘿’这样的视频上传抖音,但并不会花钱去买 Avatarify,所以会托我们制作。" 一位淘宝卖家表示,他们团队已经达到了 10 人,可以最快在 30 分钟内完成相关视频的制作,收费为一张 9.9 元。

AI 换脸安全争议不可回避

据央视新闻,类似 " 蚂蚁呀嘿 " 这样的特效,也是存在相应风险的。 在采访中,演示人员为央视记者演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。

演示人员 张天奕:您现在看到的这段视频,就是利用深度合成中的表情操纵的方法生成的一段伪造的视频。就是说我们可以操纵一张图片,让它做出和右边这个视频一样的动作来。比如说点头、摇头、说话。可以用于攻击人脸识别系统的这种场景当中。

总台央视记者 杜思源:我们能看一下具体的攻击过程吗?

演示人员 张天奕:我们可以生成系统指令的这些,张嘴、点头、摇头之类的指定的动作,然后最终我们就可以冒充这个人完成了人脸验证的环节。

总台央视记者 杜思源:也就是说我们只需要这个人的一张照片,就可以冒充他,然后攻破这个系统。

演示人员 张天奕:是的。

2019 年 11 月底,国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息服务管理规定》,其中明确了 " 利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施 " 等针对换脸技术的新规定。规定同时指出,利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。且不得利用该技术 " 制作、发布、传播虚假信息 "。此外,规定还强调,不得利用相关的音视频技术 " 侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益 "。

近年来,围绕人脸识别的争议不断。由全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告(2020)》显示,有九成以上的受访者使用过人脸识别,有六成受访者认为人脸识别技术有滥用趋势,还有三成受访者称已经因为人脸信息被泄露和滥用而遭受到隐私或财产损失。

用户的个人信息安全问题也引起了有关部门的重视。早在 2019 年 11 月底,国家网信办、文旅部和广电总局三个部门就联合发布了《网络音视频信息服务管理规定》,其中第十一条指出,基于 deepfake 技术制作的换脸视频 " 应当以显著方式予以标识 ",且不得利用该技术 " 制作、发布、传播虚假新闻信息 "。

在近日召开的全国政协十三届四次会议新闻发布会上,大会新闻发言人郭卫民也表示,个人信息保护法草案已经提请全国人大常委会审议,对保护个人信息安全将发挥重要作用。

栏目主编:秦红 本文作者:每日经济新闻 文字编辑:杨蓉 题图来源:图虫 图片编辑:朱瓅

以上内容由"上观新闻"上传发布 查看原文
上观新闻

上观新闻

站上海,观天下

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容