关于ZAKER 免费视频剪辑 合作 加入

院士张钹:AI 算法有安全隐患 呼吁多方共治

经济观察网 记者 沈怡然 随着 AI 技术的精进和产业落地,业界开始聚焦关于产业治理的争端和问题。

8 月 3 日,首届全球数字经济大会的人工智能产业治理主题论坛在京举办,该论坛由北京市经济信息化局、海淀区人民政府共同主办,由清华大学人工智能研究院、北京智源人工智能研究院以及北京瑞莱智慧科技有限公司共同承办。

在论坛上,中国科学院院士张钹首先抛出一个观点:当前,AI 的安全治理是迫在眉睫的,随着技术潜入到 " 深水区 ",研究界发现,AI 的算法存在一些根本性的问题,本身就带有不安全性,容易受到攻击。

张钹认为,对人工智能进行治理,防止它被误用、制止它被滥用,需要从技术创新层面发力去 " 治本 ",但这条路漫长且艰难,同时,也要从法律法规、伦理规范、行业共识等不同层面去 " 治标 "。

争议和问题随之出现,为何 AI 的安全漏洞难以修补,AI 的发展方向是否正确,政府、企业在其中又该承担什么责任?

原理的漏洞

行业普遍将人工智能的主体分为四类,研发者、设计者、部署者、用户。张钹表示,信息技术产业发展中有很多安全性问题,普遍是由设计的缺陷造成的,这个缺陷被利用后,对系统进行了攻击,所以只要把漏洞补上就能解决。

但 AI 技术所面临的安全问题是非常特殊的,其问题不在于设计,而是源自算法本身的不安全性。在张钹看来,这种算法的不安全性,是由第二代人工智能所引起的。

第一代人工智能指的是用知识规则来解决问题,第二代指的是以 AlphaGo 为标志的深度学习。张钹表示,在第二代技术中,对图像、语音、文字的处理都可以利用深度学习来做,这种技术在数据样本充足的条件下,在人脸识别、语音识别等场景下,效率是非常高的。

但是,里面用到的算法非常脆弱。张钹举例称," 两张一模一样的雪山图片,如果对右图加入一点噪声,那么人类视觉看起来还是雪山,但计算机就会将右图识别成一条狗。可以看出人类视觉和计算机识别完全是两回事 "。

张钹认为,这是有可能通过创新来解决的,方案之一就是发展第三代人工智能技术,但这是一项长期任务,技术的路径也非常艰难。

法律的治理

针对不安全性,治理的目标也指向两类行为,一类是有意识地滥用 AI 技术,一类是无意识地误用。前者行为需要通过法律来解决,加以制止。

中伦律师事务所合伙人陈际红在会上表示,当前,人工智能的立法,已经涉及到隐私保护、数据安全、网络安全、公平竞争、消费者权益保护等方面。

人工智能产业离不开数据处理,一个重要的立法就是《数据安全法》,该法将于今年 9 月生效。陈际红表示,该法的监管对象是数据处理活动,一个重要的内容是,建立分类分级保护制度。在判断一种数据能否使用、能否公开、能否跨境运输方面,这些内容提供了很好的标准。如果是关系到重要民生、国家安全的核心数据,出境则需要强监管。

另一项限定关于数据交易。陈际红表示,当前一些数据交易机构的运作,引起了很多问题,比如数据的可交易性、对隐私的侵犯等。该法也针对数据中介做了一系列明确规定和管控。

同时,该法也建立起国家安全审查制度,同时,对数据处理活动也提出了监管措施,以及一定的反制措施。随着 AI 与社会的关系发展密切,关于立法、司法解释会延伸到技术的更多角落。

伦理的规范

若将 AI 作为客体,则可用法律来治理。但换个角度,我们究竟要发展什么样的人工智能,过去的路是否走偏了?厘清它的愿景,对于当前的治理也是非常重要的。

论坛上,中国科学院自动化研究所研究员、联合国教科文组织人工智能伦理特设专家组专家曾毅表示,全球发展 AI 的一个共同目标是 " 以人类为中心 ",这会让人忽略技术对环境、生态的影响,甚至让人过于看重短期利益。

在曾毅看来,愿景应该是打造一个负责任的、可持续的人工智能,这也是最大伦理原则," 如果人工智能的创新的目标就是赚钱,那么大多数可持续发展目标无法通过人工智能来实现 "。

国家新一代人工智能治理专委会曾对 AI 提出一些原则,重点之一是协调好发展与治理的关系;重点之二是,在安全可靠、可控的背景下,推动的不仅仅是经济发展,同时关注经济社会和生态协同的可持续发展,共建人类命运体。

这些治理的理念必须落实到参与者之间。曾毅表示,这和企业非常相关,但绝对不是企业唯一的问题,还涉及到设计者、研发者、供应者、部署者、管理者,真正实现多方共治。

企业的责任担当

在本次大会上,首个《人工智能产业担当宣言》正式发布,该宣言由北京智源人工智能研究院和瑞莱智慧共同发起,百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等在内数十家研究机构与创新企业联合参与。

宣言包含五项倡议,首先强调,人工智能系统的设计、研发、实施和推广应符合可持续发展理念,以促进社会安全和福祉为目标,以尊重人类尊严和权益为前提。其次在技术能力方面,提出要最大限度确保人工智能系统安全可信,提高鲁棒性及抗干扰性,要增强算法透明性和可解释性,同时保障各方权利和隐私,对用户数据提供充分的安全保障。

对于该宣言,北京瑞莱智慧科技有限公司 CEO 田天表示,让人工智能更好地服务于人类,是行业共同的目标,当整个社会重新审视技术的价值,科技从业者更应感受到科技治理的紧迫性和使命感,应当积极主动开展自治工作,同时开放共享,共举科技担当。

以上内容由"经济观察报"上传发布 查看原文
一起剪

一起剪

ZAKER旗下免费视频剪辑工具

一起剪

相关阅读

最新评论

没有更多评论了
经济观察报

经济观察报

理性·建设性

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门订阅 换一批

查看全部