腾讯发布预警:谷歌 AI 学习系统存安全漏洞

环球网 12-15

12 月 15 日消息,近日腾讯安全平台部预研团队发现谷歌人工智能学习系统 TensorFlow 存在严重安全风险,可被黑客利用带来安全威胁,团队已向谷歌报告这一风险并获得致谢,其官方负责人称,考虑到 TensorFlow 在 AI 的广泛使用,TensorFlow 官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

目前,Google 的 TensorFlow 作为开源框架被互联网广泛使用,据官方介绍,谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在 TensorFlow 中,AI 研究者可以复用他人建好的模型来进行 AI 训练,或直接提供 AI 服务,大大提高开发效率。

据了解,这些公开的模型通常以文件形式提供,也普遍被认为是无害的。但腾讯安全平台部预研团队发现,攻击者可以生成 Tensorflow 的恶意模型文件,对 AI 研究者进行攻击,对受害者自身的 AI 应用进行窃取或篡改、破坏。

该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分 AI 研究者可能毫无防备;同时因为利用了 TensorFlow 自身的机制,其在 PC 端和移动端的最新版本均会受到影响。AI 模型被窃取,损失的是开发者的心血;而一旦被篡改,造成 AI 失控,后果更难以想象。

此前,AI 已有不少实际应用案例,例如深圳试运行的无人驾驶公交、国际会议的 AI 同声传译;未来更会渗透到社会的方方面面:交通、医疗、安防、金融 …… 在不远的未来,AI 安全会直接影响人们的生命财产安全,甚至整个世界的秩序。如电影《复仇者联盟:奥创世纪》那样,终极人工智能奥创为人们的生活提供了无数便利,但当他站到人类的对立面时,也会带来无数灾难甚至毁灭。

据悉,腾讯安全平台部安全预研团队已就此次发现的安全风险向谷歌提交报告,协助风险早日收敛。该团队不仅聚焦 AI、移动及 IoT 前沿领域的安全问题研究,同时也向 google,apple,微软,adobe 等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。

相关标签: 谷歌 腾讯 安全漏洞 google 人工智能

环球网
原网页已经由 ZAKER 转码排版 查看原文
最新评论
分享 返回顶部