关于ZAKER 融媒体解决方案 合作 加入

实在看不下去了!油管的 AI 封禁了机器人对战视频

一次小小的 " 人工智能叛乱 "。

想象一下,在封闭的擂台里,两名选手捉对厮杀,而且两位都是手持电锯、大锤或者砍刀的行家里手,一不留神就打得残肢横飞,横尸台上……一般来说,这种程度的暴力场面,无论如何也是不该出现在网络上给大家看的。

但如果擂台上这两位是机器人的话,好像一下子就 " 安全 " 了起来:机器人不会喊痛,也不会流血,甚至长得和我们也没什么相似的地方。如此一来,就算双方互相打成一坨烂铁,大家也不会觉得有什么不适——也正因如此,《机器人大擂台》这种节目才能成为不少人的 " 童年回忆 " 而不是童年阴影。

这些看起来像扫地机器人或者卡丁车的玩意儿,怎么也不会扯到 " 危险内容 " 上去……

可是,虽然我们人类觉得很 OK,YouTube 的 AI 却并不这么认为。它觉得这种机器人对战的视频可怕极了,以至于要把它们统统下架。不仅如此,它对于自己和这些机器人之间的关系也出现了诡异的误判——在发给那些下架视频作者的邮件里,系统给出的理由是:虐待动物。

其中一位机器人对战视频的作者,Jamison Go,就在社交媒体上贴出了 YouTube 官方发来的邮件,并表示 " 今天是悲伤的一天,全世界的机器人制作者都很难过,因为 YouTube 的算法错误地把机器人竞技的内容标记成了‘虐待动物’和‘斗鸡’之类的内容。我失去了 9 部视频,但其他人甚至失去了上百部还多。"

Jamison Go 收到的邮件

他确实不是唯一一个受到影响的人,就连《机器人大擂台》的精神继承者,目前全世界几乎是唯一一部依然播出的机器人对战节目《博茨大战》(BattleBots)也没能幸免,团灭了好几个视频。

在《机器人大擂台》短暂复活后,《博茨大战》是目前硕果仅存的同类节目了

YouTube 很快对这件事贴出了一个有点性冷淡的声明:" 由于我们网站上存在着庞大数量的视频,有时候难免会出错。当注意到有些视频被错误地移除之后,我们会尽快恢复。与此同时,我们也提供给了上传者申诉的机会,来让我们重新审核被移除的视频。"

虽然有些人唯恐天下不乱地发表一些 " 这可能是 YouTube 的 AI 实在看不下去自己的同类自相残杀,所以才把这些视频下架 " 之类的言论,但是,当然,AI 并没有感情(但愿如此),这只是识别算法的一次误判而已。

鉴于两个机器人在半封闭的笼子里撞来撞去的样子确实很有斗鸡的感觉,再加上被删除的视频中,不少标题里都含有动物名字(一般是机器人选手们的花名),AI 会看走眼也并不稀奇。

机器人对战,本质上和斗鸡确实很像,但会少很多道德上的顾虑

放宽心,YouTube 的 AI 还没有通过图灵测试,机器人危机也还不会到来,值得关注的其实是另一个问题:AI 审查。

就拿 YouTube 来说,如今每分钟都有超过 300 小时的内容被上传到网站上,想通过人工来完成全部审核已经是没有可能的事,因此只能依靠 AI 来完成对有害内容的过滤。仅仅是在今年的前三个月里,就有 830 万个视频被 YouTube 移除,其中 76% 都 " 死于 "AI 算法,而这些视频里,又有 70% 甚至在被用户看到之前就已经消失无踪。

也正因如此,虽然识别算法一直被质疑有出错风险,经常误删内容,但是总体来说效率还是远高于人工审核——在这种数量级的内容下,其实也只剩这一种选择了。

但即便这样,争论依然存在:AI 对内容的审查,有时候也会导致一些意想不到的麻烦。

先说一个目前已经基本解决的问题:大范围的检测失灵。

十年前的绿坝,之所以引发广泛的质疑,其中一个原因就是人们发现它的检测机制过于简单粗暴,甚至连 " 裸露 " 都只能检测有限的范围,比如对黑皮肤的人就不起作用…… AI 覆盖的面越广,失灵时会导致的烦恼就越多。幸好随着技术的发展,我们已经很少见到这种事情了。

当年闹得沸沸扬扬的 " 绿坝 " 其实只存活了几个月的时间

除此之外,有时候一些时效性强的新闻视频也会因为内容被错误标记,等到人工审核通过时,价值也打了不少折扣。对于负责审核的人来说,想要判定一部视频到底有没有跨过 " 有害 " 的界限其实并不容易,即使 YouTube 已经努力不断更新补完自己的审核规则,很多灰色地带依然存在于条款的缝隙中。

另一个问题在于,有时被 AI 误删的内容,很可能就这么永远消失了。

其中一个受影响的机器人制作者(也是今年《博茨大战》的参赛者之一),Sarah Pohorecky,就提到了这件事——像她这样还在活跃的视频制作者也许还能注意到这件事,但一些年代久远的视频可能并不会有活跃的维护者,一旦被系统删除之后,就会因为无人申诉而就这样湮灭。

在浩如烟海的视频内容中," 机器人对战 " 只是一个小小的分类,也许这种悲剧早已经在我们不知道的地方发生过了。

而限制与自由的博弈,AI 与人工的平衡,在未来很可能会成为我们生活中流动的一道暗流。现在,AI 已经能决定很多人 " 能看到什么 " 了,如果有一天连 " 不能看到什么 " 也被它决定的话,那大概不会是个很让人愉快的结果。

我们始终欢迎喜欢内容创作的小伙伴加入

应聘简历可发邮箱:hr@yystv.cn

文章投稿可发邮箱:tougao@yystv.cn

APP | 你还可以回复 "APP",获取下载地址

以上内容由"游戏研究社"上传发布 查看原文