关于ZAKER 合作
央视网 20小时前

AI 繁荣背后的阴影

地震中小孩被埋的图片原是由 AI 生成," 顶流明星在澳门赌博输了 10 亿 " 是有人为了博取流量用 AI 生成的假消息,玻璃突然坠落导致行人从高空栈桥坠向深渊的视频由 AI 伪造……当 AI 发展如火如荼、赋能千行百业,成为我们工作与生活新 " 搭子 " 的时候,硬币的另一面,是技术被滥用带来的风险暗流。语音伪造、图像合成、对话捏造,AI 造假愈演愈烈,频频误导认知,侵犯肖像权、隐私权,侵蚀社会信任的基石。

重症就要下猛药。中央网信办近日披露了整治 AI 技术滥用工作进展:第一阶段累计处置违规小程序、应用程序、智能体等 AI 产品 3500 余款,清理违法违规信息 96 万余条,处置账号 3700 余个。

为何有这么多问题产品和账号?一个基本背景是,AI 大大降低了造假的门槛,即使是没有专业技术知识的普通用户,也能轻松利用这些工具伪造信息,成为一些人获取流量、价值变现的利器。

同时,AI 技术升级换代较快,造假手段不断翻新,打击、识别技术也需要持续跟进,这是 " 道 " 与 " 魔 " 之间的较量。我们不能幻想着一劳永逸、速战速决,打击 AI 造假,是一场攻坚战、持久战。

遏制住 AI 造假势头,还网络清朗空间,需要我们用魔法打败魔法,以技术进步对抗技术滥用。这其中,平台的责任巨大,要当好 " 守门员 ",而不是以 " 技术中立 " 为由,对违法违规信息睁一只眼闭一只眼,出了事就把锅远远甩出去。

监管也要拿出实招、硬招,对 AI 造假、传播谣言等加大打击力度,形成震慑力,切实破解违法成本低而维权成本高的老难题。还要加强制度建设,把握新态势、增强前瞻性,作出更多针对性的安排。譬如,《人工智能生成合成内容标识办法》自今年 9 月 1 日起施行,应及时跟踪实施效果,把制度的篱笆扎得更紧更牢。

未来已来,AI 是我们抓住新一轮科技革命和产业变革历史机遇,进行弯道超车的一个重要切入点。我们既不能因噎废食阻碍技术创新,也不能放任自流让技术沦为违法犯罪的工具。唯有紧跟技术的步伐,调整好治理的步子,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,才能在享受 AI 红利的同时,守住社会信任与安全底线,让 AI 更好地造福人类。

(记者 巩盼东)

一个简单动作,睡得又快又香甜!今晚就试试

" 李某遭境外间谍色诱,叛国参谍 ",国安部公布

监 制丨李绍飞

编 辑丨单镜宇

审 校丨天明

来 源丨央视网

相关标签