逆天,现在 AI 换脸骗过人脸识别系统的操作,已经越来越猖狂了。
就前段时间的事情,南京那边发生了一起诈骗案。
嫌疑人先是收集了 195 万多条别人的姓名、照片啥的,然后用 AI 换脸软件,绕过了某个金融支付平台的人脸识别系统,一顿操作猛如虎,最后得手一万五。
但重点是,他试图绕过人脸识别系统的行为,最后竟然得逞了。
哥几个也别掉以轻心,因为这种倒霉催的事情,你是真不知道哪天会不会让自己给碰上了。。。
大概两个多月前,自媒体博主 @远方青木发文,说自己有个 60 万粉丝的小号突然开始大量群发诈骗信息。不查不知道,一查发现不光账号密码被改了,就连公司法人都被换了。
没多久,@表舅是养基大户也发现,自己平时写美股的账号,给粉丝推了股市杀猪盘的引流广子。
所以,如果哪天突然收到差评给你推荐稳赚不赔的股票,千万别信,要真有那信息差,那不得差友每人一根金条?(这也别信
这次财经大 V 集体被盗号,世超仔细捋了捋各家的声明,几乎都提到了,法人变更,跟人脸识别系统有关。
世超这次找网络安全这块比较懂行的哥们聊了聊,才知道人脸识别技术,真没有咱们想象当中那么靠谱。
甚至有些人脸识别系统的算法粗糙到,不需要 AI 出马,就能轻而易举绕过去。
人脸识别系统的工作原理很简单,先用摄像头找到你的脸在哪,然后扒五官细节,把你这张脸,翻译成计算机能看懂的数据之后,再拿数据去跟你本人的信息比对。
数据怎么来?看摄像头。
像平时比较常见的小区门禁、公司考勤机器,用的多是 2D 人脸识别技术,是平面、静态的。
相比之下,3D 人脸识别技术要比 2D 更安全。
像一些金融和政务服务,都会用到 3D 人脸识别技术,甚至还会叠加 2D、3D、红外等好几个多模态的 Buff。
网络安全业内人士傲客告诉世超,大概在 2017 年,就已经有人用 GAN(生成对抗网络)来攻击人脸识别系统了,这么多年来一直没消停过。
生成式 AI,更是让骗子狂得有点不知天地为何物。10 分钟骗走 430 万,冒充公司 CFO 诈骗将近 2 亿元。。。再加上开头提到的那些案例,用伪造好的 AI 换脸视频和面具骗过摄像头,已经是比较常见的欺骗手法了。
至于原因,世超觉着跟系统的工作原理脱不了干系。
根据傲客的说法,系统不光会在收集人脸数据的时候出岔子,数据处理、使用还有存储环节,同样也有漏洞。
傲客给世超举了个,当年牛奶里掺了三聚氰胺的例子。机器检测牛奶里蛋白质含量的方法,是检测牛奶里的氮元素含量,而三聚氰胺的氮含量高还便宜,机器才不管你这玩意儿人喝了有没有毒。
一个离谱的例子,卡内基梅隆大学几年前做过实验,带上特异花纹的眼镜之后,人脸识别系统把 A 识别成 B 的概率有 80% 以上,就因为这个花纹是专门针对漏洞设计的。
这就好比,AI 换脸是伪装成住户骗保安," 二维码 "" 花纹眼镜 " 则是偷偷溜进了安保中心,对监控动手脚。
而且这安保大队的水平,也是参差不齐。
香港中文大学两年前做过研究,18000 个 App 里,有 373 个用了有安全漏洞的人脸识别模组,好死不死这 373 个里,还有将近四成都是金融类的 App。。。
更别提有点手段的,能直接上后台把住户信息都给篡改了。
反正一句话总结就是,人脸识别并不是一项百分之一百安全的技术。
甚至围绕人脸识别技术,还衍生出了见不得光的产业。
也是今年的事,有被封号的网约车司机用 " 虚拟相机 " 的 App,绕过了网约车平台的人脸识别系统,那会儿有媒体报道过,国内的一些社交、电商平台,有不少宣称可以绕过人脸识别系统的服务。
另外根据贝壳财经的报道,有些黑产人员胆子还特别大,直接把能过哪些政务平台,摆到了明面上。
不过好在,今年国家已经出手了,把人脸识别技术滥用的现状往回拉一拉。
就比如在输入环节做交叉验证,3D 结构光负责建模,红外看看有没有真人的温度。。。这法子虽说不能百分百杜绝攻击,但至少伪造的成本上去了。
还有用魔法打败魔法,比如去年蚂蚁数科发了个 ZOLOZ Deeper,对 AI 换脸重拳出击。国外像 RealAI 和 Reality Defender,同样也有检测深度伪造的技术。
咱们没法儿置身事外,但至少长个心眼,别把自己这张脸轻易交出去。
撰文:西西