关于ZAKER 融媒体解决方案 合作 加入

AI 正在努力识别阴茎图片,使女性免受互联网的性骚扰

爱范儿 09-18 1

互联网给大家联通了一个更大的世界,但这个世界并不总是美好的。

如果你想要寻找一些限制级的成人内容,那 Pornhub、(整改前的)Tumblr 这类垂直类网站总能满足你的需求,这是美好的互联网世界。但如果你只是想看一些严肃的、与性无关的内容,那评论区或陌生人私信可能会出现的阴茎图片或者性暗示内容就属于性骚扰了,这是不美好的互联网世界。

随着 Tumblr 的转型,有很多其本有的成人内容换了个阵地,转移到了 Twitter。Twitter 的女性用户自此开始非自愿地收到男性的阴茎图片,她们为这类非自愿获取的内容感到困扰。而研究也显示,在英国 18 至 36 岁的女性中,有 41% 的人都收到过未经双方同意的性图片。

▲ 图片来自:unsplash

在这个随时可能受到性骚扰的世界,女性开发者 Kelsey Bressler 决定做出改变。她在 Twitter 上表示:「不喜欢醒来就看到一个不请自来的阴茎图片 」。

为此,她曾尝试和发送阴茎图片的人进行沟通,质问对方为何未经允许发送令人不适的图片,但对方却再次回应了一张阴茎图片。

当你被动收到一张照片时,你会感到不被尊重。你没有给他们(发送图片的人)发送图片的允许,你被强迫接受了这些图片,这是不对的。

Kelsey Bressler 决定自己动手去解决这些阴茎图片,她和一个通过激进主义工作认识的一个朋友正在开发一种工具,可以自动检测和删除令人不适的图片。

Kelsey Bressler 和她的朋友正在训练 AI 以筛选和识别未经允许的非法图像。该计划目的是将该程序变成一个专门识别阴茎图片的 Twitter 插件,插件可以识别并限制用户的私聊内容。但这是 Twitter 目前在其「敏感媒体政策」中所不支持的。

而 Twitter 自身的「敏感媒体政策」在过去这些年也有些自相矛盾的犹疑历史。2017 年,《纽约客》作家 Maura Quint 三次收到了同样的阴茎图片,照片来自三个不同的账户,账户名称和用户形象都相同。当她向 Twitter 回应这三起事件时,社交平台给出了三种不同的回应,一次要求她直接报告敏感媒体,一次直接锁定了违规账户,还有一次举报者得到了未发现违规行为的反馈。

不同的结果显示了平台在这类事件的处理上缺乏标准和统一的流程。Kelsey Bressler 就认为社交媒体对此做的还不够「我们多年来一直在抱怨这件事。他们要么不听,要么没有把这件事当作足够重要的事情来做。」

她在接受 BBC 访问时表示她几乎每天都能看到这个问题确实普遍存在,但 Twitter 还没有表现出对这个问题的关心,也没有找到合适的解决方案。

如果这项技术能在几天内问世,我不知道为什么科技公司没有带头采取类似的举措……人们说,简单的解决办法是关闭你的信息——但我们不应该因为一些人不知道如何表现而把自己与世界隔绝。

目前,Kelsey Bressler 正在训练和测试自己的 AI。她公布了一个邮箱,邀请男性用户向邮箱发送自己的阴茎图片。如果 AI 确认了图片内容为阴茎,AI 就会直接删除该图片。

但很多志愿参与的人发送的都是自己的裸体照片,为此,团队不得不暂时关闭了收件箱。在他们关闭收件箱前,她们已经收到了三百多张阴茎的图片,系统只有两次没有成功识别,一次是阴茎上套了个笼子,一次则是图片里的阴茎覆盖着一些发光的东西。

Kelsey Bressler 为了鼓励男用户勇敢「献身」,还特意做了 T 恤和卫衣,上面写着「我为科学上传了阴茎图片。」

事实上,这个现实生活中发生的案例很容易让人想到《硅谷》第四季中的剧情。杨建作出了一个价值 400 万美元的 app —— Not Hotdog,这个 app 只能用于识别热狗。在图像识别时,他只能给出 Not Hotdog 和 Hotdog 两种识别结果。

这么一个听上去非常鸡肋的玩意卖出了 400 万美元,就因为收购的科技公司想要将它用于阴茎图片的识别。

▲ 图片来自:《硅谷》

这个 app 之后甚至也有在 App Store 和 Google play 上上架,之后被网友们用各种图片骗过,给出了错误的答案。

▲ 图片来自:Azure1984

但不管怎么说,用 AI 识别此类性骚扰图片内容都是看得到的一种方向。

Kelsey Bressler 也表示,当项目完成时,如果他们的插件对于阴茎识别是有效的,那么她们也愿意与 Twitter 分享自己的研究成果。

以上内容由"爱范儿"上传发布 查看原文
相关标签 twitterai性骚扰
爱范儿

爱范儿

发现创新价值的科技媒体

订阅

觉得文章不错,微信扫描分享好友

扫码分享