关于ZAKER 融媒体解决方案 合作 加入

别再玩 AI 换脸,背后的危险你玩不起

整点电影 09-15

上方蓝字关注,自动为你推荐一部好片

整点电影

你有 128 个好友已关注

最担心的问题还是来了。

" 人工智能 "——仔细想想,其实「细思恐极」

今年 2 月,有人用 AI 将朱茵在 94 版《射雕英雄传》中的 " 黄蓉 " 形象,换成了杨幂的脸。

一夜之间,杨幂变成了灵动演技派。

这本是人工智能的进步,可深挖现实,却暗藏着「不可告人」的危险。

6 月,科技变质,出现了" 一键脱衣 "的恶臭。

一款针对女性的软件,将穿戴整齐的照片,借助网络技术,可自动 " 脱掉 " 女性身上的衣服,转成裸照。

某些明星首先中了招。

8 月末,换脸 app 上线

你只需在 APP 中上传一张照片,就能将自己的脸替换成明星的脸,融合效果极强,几乎可以以假乱真。

但,与此同时,你的脸部信息也被「录取」。它可能被用于色情行业,可能被人脸支付盗刷。

更可怕的是,在未来的某一天,如果有人换上了你的脸,用着你的声音,进行犯罪行为……

到了那个时候,你是否还能自证清白?

镜头之下的你,难以想象会以怎样的面目出现。

人工智能下的视频信息,是否还能代表真相?

这部剧将告诉你答案——

《真相捕捉》

BBC 新剧,短小精悍,单季六集。

译名直戳深处——" 真相 ",何为真相,真相只有一个,就是事实证据。

那,显示在监控之下的「证据」就是真相吗?

Maybe.

但不可全信。

就像这部剧,你 " 捕捉 " 到的未必是真。

深夜,在伦敦。

有在路边谈恋爱的,有在炸鸡小店买宵夜的,有喝醉了酒闹事的……这一切,都暴露在监控视频下。

而监控背后,有人监控着。

两名监控管理员,查看着社区内的监控情况,一旦发现打架斗殴等紧急事件,可以及时报警。

其中的一条街上,一男一女,在接吻。

隔着屏幕观看的监控员也面露微笑,八卦的看着小情侣甜蜜。

就在下一秒,她的表情变了。

笑容渐渐消失,眉眼间透露着惶恐不安——

紧急报警。

01

18 小时前

军事法庭上。

一名士兵,肖恩 · 艾莫里

他曾在阿富汗服役两轮,伊拉克一轮,还获得过一等兵荣誉。

如此优秀的军人,却因为一条视频被定为杀人罪

视频中,肖恩一枪打死了塔利班武装分子,开枪之后他发现,战友头上戴着头盔摄像机录下了这一切。

于是他大声喊:" 你他妈给我退后 "

就是这句话。

检方认为,这是肖恩在对战友喊得话,担心自己「杀人的证据」被录下。

武装分子已经缴械且受了重伤,肖恩的做法是谋杀,是在" 冷血的打死了一名战俘 "

而在肖恩的自辨中,他这句话是对塔利班分子说的。

对方并不是战俘,且存在危险,向他步步接近。

自己的主武器没有弹药了,只好拿起手枪警告对方 " 你他妈给我退后 ",情急之下,才开的枪。

纯属自卫。

肖恩不承认视频中的「证据」,却无法给出任何解释,只能一次次的上诉。

直到他的辩护律师汉娜 · 罗伯茨找出了关键证人——马库斯 · 列维

他是一名资深映像技师以及传媒通讯顾问,在天空体育台做了 22 年资深传媒工程师。

直白说,专业过硬,成就显赫,且对肖恩 " 谋杀 " 事件中出现的头盔摄像头了如指掌。

发现了证据漏洞

这款头盔摄像头显然不完美,有一极大缺陷就是音频滞后于视频。

也就是说「音画不同步」,人的口型对不上声音。就像足球比赛直播中,球已经被踢出后,才听得到踢球声。

且这种情况,拍摄时长越久,偏移延迟现象越严重。

如果录制一个小时,甚至会造成五六秒钟的声音延迟。

在经过调整,声画同步的视频再次播放。

肖恩的那句 " 你他妈给我退后 ",的确是对塔利班分子说的。

肖恩胜诉。

但在此前,只是因为一次错误的视频证据,他被判有罪,被监禁了六个月。

有些时候,视频证据并不一定是真实。

比如,与肖恩相关的另一个视频——

02

19 小时后

肖恩在获得自由后,与他的律师汉娜产生了情愫。

当晚,他在大街上向汉娜表白,也就是影片一开始监控员所看到的那幕。

上一秒,在接吻。

下一秒,肖恩却暴打了汉娜,还将她绑架在车里。

肖恩被警察以「绑架」罪名逮捕,他完全不知道发生了什么。

直到看到视频后,他情绪激动,强烈暴怒着否认——

" 我没干过,这根本没发生,这他妈是怎么回事 "

证据确凿,无从狡辩。

但,就在肖恩将被判罪时,警局忽然出现一神秘女人。

给警长下达了命令——

肖恩在公交车站的「绑架」监控录像被撤销了,不能作为证据。

此时,肖恩已被拘留 19 个小时。

根据规定,在无证据的条件下,羁押不得超过 24 小时。

除了监控视频外,一无所获,警方不得不释放肖恩。

一个女人至今下落不明,两名警员商量后,决定报告给负责肖恩事件的警探凯瑞 · 瑞秋,想要私下里跟踪肖恩。

凯瑞分析利弊关系后制止,但他们还是不听劝偷偷行动。

无奈,凯瑞在监控处观察,远程指引警员追踪。

肖恩非法潜入了汉娜的家。

在查找证据时,却发现汉娜家里有陌生人在。

" 螳螂捕蝉,黄雀在后 "。

肖恩坐上出租车跟踪陌生人,警方开车跟在他身后。

可没想到,出租车司机在追踪过程中,忽然调转路线,将他带到了另一处。

和一个持枪的神秘男人碰面。

这时候,诡异的事情发生了。

根据凯瑞的引导,两名警员到了贝尔格莱维亚区伊顿广场 48 号

在凯瑞的视角下。

监控中,是肖恩在与他人进行某种交接,他走进伊顿广场 48 号,旁边有两个白人男性,出租车开走了。

而在两名警员的视野中。

没有白人男性,没有出租车,就连肖恩也看不见。伊顿广告 48 号外,空无一人。

这究竟是怎么回事?

监控被篡改?或是被延迟?

可以得知的是,监控下,并非真相

而此时的肖恩,被关在一个秘密组织,脱了外套和鞋子,监管在监控之下。

" 玩具士兵 " 被控制了,长官。

剧中还有一处细节。

肖恩乘坐出租车时,那个司机看着他,说了两句话:

" 你是那个军人吧 "

" 天呐,你本人跟电视上不像啊 "

毛骨悚然。

神秘组织抓到的肖恩,是真正的肖恩?

还是一张仿照他的脸而换过的假脸呢?

03

捕捉不到的真相

俗话说:眼见为实,耳听为虚。

可眼睛看到的真的就是真相吗?

未必。

最怕的是,有些事情即使你内心有所怀疑,但在双眼看到以为的「真相」后就常常忘记去思考了。

剧中,两个专业技能过硬的人,就信了那「假象」。

一是,监控管理员

是她报警,在监控下看到肖恩在街上暴打并绑架了汉娜。

但,她也发现了古怪。

因为通常暴力事件发生之前,都会有所预兆,他们也会据此作出一些行为分析,而这方面,她是最厉害的。

可在警察让她别节外生枝,就把看到的说出来时,她肯定的点了头。

二是,警探凯瑞

平步青云,连升多级,她靠的是智慧和努力。

可在追踪肖恩的过程中,她却有一极大失误。她紧盯着监控观察肖恩的去向,让跟踪的警员不要跟的太近,按照她指示行动。

然而,到了监控死角车辆消失,再看到时,已经绕过了几个路口。

这时,她看到的还是「真相」吗?

当监控和现实发生分歧时,她带着审视的眼神看着两个警员,对他们的话带有怀疑。

而且始终坚信着「亲眼所见」。

" 我看见了 "

我们常常相信双眼看到的。

很多时候,自以为站在上帝视角,统观全局,实则很可能早就出局,看到的棋盘也只是假象。

而《真相捕捉》表达的就是一种超前危机。

在现代社会中,司法依赖着影片证据,但视觉却可以被窜改操控,那么你还可以相信你所看到的一切吗?

还记得我们小时候看《西游记》,那集让人气急败坏的 " 真假美猴王 " 吗?

唐僧看到的是六耳猕猴行恶,忍痛赶走的却是孙悟空。

同样的一张脸,即使朝夕相处,他也无法分辨。

可若是在今天,人人皆可换脸呢。

在国内 AI 换脸刷屏之前,这项技术就已经在国外出现了。

有一段爆火视频——

奥巴马正经严肃地说了句" 川普是个彻头彻尾的傻叉 "

第一反应是震惊,奥巴马疯了吗?怎么会说这种话。

当然,这不是真实的。

还是AI 换脸技术。由《逃出绝命镇》导演 Jordan Peele 所制作的 " 换脸 " 效果。

他想借此引发大家的警惕,信息时代,连视频都可造假,危险无处不在。

(来源:微博 @谷大白话)

现如今,换脸效果越来越自然。

技术发展所带来的改变已经超越我们的想象和控制了。

而科技一旦用于 " 犯罪 ",后果不堪设想。

比如,某些人某些明星的脸,被换在色情视频上,大多数人的第一反应是鄙夷,对这个人或这个明星。

被冤枉的人,百口莫辩。

而我们,也常常忘了去探究,背后真相如何。

豆瓣有网友精辟的评价这部影片,扒叔认为这更适合 AI 换脸技术——

这不是贩卖焦虑,焦虑已然迫近;亦无需兜售恐慌,恐慌常潜心底。

技术假使无罪,人性尚待考量。

就像《真相捕捉》这部剧的定位:惊悚

多惊悚?

有怪力乱神、有杀戮变态、有灾难无法避免?

都不是。

真正让人背脊发凉的是——

当你看到一些「假象」,却误「信以为真」。

文中图片来源于网络

这里这里

以上内容由"整点电影"上传发布 查看原文
相关标签 明星报警塔利班
整点电影

整点电影

每天一部好电影,轻松有趣涨知识

订阅

觉得文章不错,微信扫描分享好友

扫码分享