关于ZAKER 合作
政事儿 8小时前

警惕“龙虾”背后的风险

由 OpenClaw 引发的 " 龙虾旋风 " 还在持续。不过,在经历了最初的烈火烹油般地 " 全民追捧 " 之后,理性的声音渐次登场。

3 月 10 日晚,国家互联网应急中心发布关于 OpenClaw 安全应用的风险提示,提及由于 OpenClaw 智能体的不当安装和使用,已经出现了一些严重的安全风险,其中涉及插件投毒、隐私数据、支付账户、API 密钥等敏感信息遭窃取等,呼吁相关单位和用户在部署和应用 OpenClaw 时采取强化网络控制、严格管理插件来源等措施,以防范 " 龙虾 " 安装潜在风险。

就在同一晚,中国科协之声也发表评论称:别急着 " 养龙虾 ",不要被营销噱头冲昏头脑。有意思的是,对 " 龙虾 " 的盲目追捧也引起了平台公司的警惕。昨晚,某社交平台发布治理公告称,严格禁止任何利用技术手段模拟真人、生成非真实内容或开展虚假互动的行为,明确表示严厉打击 AI 托管类账号。

风向,的确在慢慢起变化。这种变化当然不是对技术的否定,而是对市场狂热情绪的必要回拨——对技术创新的拥抱,必须限定在理性轨道。

相对于对话式大语言模型," 龙虾 " 具备更高级的功能,将其部署在个人电脑之后,可以帮用户自动执行任务,譬如收发邮件、管理日程甚至进行金融交易等。作为 AI 智能体的 " 龙虾 ",代表了当前 AI 代理行业的前沿水准。

AI 代理是人工智能时代,人们努力追求的一种效率革命,因为它进一步、毋宁说是更加剧烈地解放了人的双手,极速提高了工作与生活效率。但是,这场效率革命的门槛,却并不如公众想象得那么低。

AI 智能体的运行机制,决定了它必须调用大量的系统权限——读取信息、操作账户、调用 API 密钥、访问支付接口。对于具备技术素养的专业人士而言,他们知道如何设置权限、辨别插件来源、防范潜在的后门,但对于绝大多数跟风涌入的普通用户来说,他们看到的只是 " 养龙虾 " 的酷炫,却鲜少知道背后程序调用所蕴藏的风险。在这种技术盲从之下,所谓 " 助手 ",很可能变成致命陷阱。

国家互联网应急中心提示的插件投毒、数据泄露等风险,正是对这种 " 技术反噬 " 的严肃警告。就在这两天,社交平台上还流传一组聊天记录显示,有网友在群聊中专门针对组装了 " 龙虾 " 的用户下手,通过发送精心编织的指令,诱导这些用户向其私发红包。

如果这组对话属实,那恰恰表明,当一个人为了赶时髦而使用自己并不了解的技术,他很可能不是在掌控工具,而是把自己暴露给风险。

社交平台之所以开始亮明对 AI 托管账号的态度,一是出于平台安全考量,更重要的是,AI 托管账号触及了人与人社交一个更底层的问题:信任。当社交账号利用技术模拟真人互动,生成非真实内容,本质上是一种欺骗,这绝对是数字平台的负资产。

很多人在谈及这波 " 龙虾热 " 时,都提到人们跟风盲从是源于 AI 时代的能力焦虑。我倒觉得,这未必是一种焦虑,更像是一种数字时代的技术浪漫主义想象。人们对新技术抱有天然的滤镜,相信它无所不能,相信自己能够驾驭它,相信自己只要追赶上这波潮流,就能早早吃到红利,将他人甩在身后,或者,至少不被时代抛下。

这种技术浪漫主义想象本身并无过错,甚至会成为科技创新的动力,但浪漫一旦演变为盲从,便容易让自己跌入风险的深坑。

很多人没有想过的是:自己是否真的需要 AI 智能体代理,又能否驾驭它?一些人在网络平台上用 AI 机器人代自己相亲,有没有想过一系列的现实后果?

人工智能时代,AI 代理固然是一种生产力,但不应该错误地将 AI 代理等同于完全的机器替代。更理性的做法是:在认同 AI 已经成为时代大势的前提下,去认真思考,机器如何为我所用,人与机器如何共生,而不是急吼吼地让机器来 " 消灭 " 自己。

根据经验,这波 " 龙虾 " 旋风很快就会过去,我们不必因噎废食,拒绝技术带来的便利,但也必须明白:无论是个人、企业或者是政府,都需要在这股热潮中找到自己的位置。创新需要拥抱,但理性的缰绳,必须握在我们自己手中。

撰稿 / 江河 编辑 / 迟道华 徐秋颖 校对 / 杨利

相关阅读

国家互联网应急中心发布风险提示

相关标签
读览精华

读览精华

精致阅读,品味生活

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容