关于ZAKER Skills 合作
财联社-深度 11分钟前

OpenAI 收紧青少年使用 ChatGPT 限制:推出专属版本强化安全防护

财联社 8 月 18 日讯(编辑 赵昊)OpenAI 将限制青少年使用全新的 ChatGPT 版本,该版本将加强心理健康保护,并加入鼓励批判性思维的功能。此举正值外界越来越关注人工智能对年轻人产生的影响,OpenAI 也面临相关争议。

OpenAI 周二(8 月 18 日)在官网宣布,即日起将开始在全球范围内推出面向 13 至 17 岁用户的专属 ChatGPT 版本,并对图像生成以及负面内容实施更严格的限制。

当下,OpenAI 正面临多个来自家庭的诉讼。这些家庭指控其子女因使用 ChatGPT 受到伤害。与此同时,OpenAI 正筹备首次公开募股(IPO),预计交易将在未来一年内进行。

随着包括英国在内的多个国家逐步推进禁止 16 岁以下青少年使用社交媒体的措施,虽然这类措施通常不包括 AI 聊天机器人,但外界对 AI 影响年轻人的审视也在加剧,并进一步增加了科技公司的压力。

" 安全工作永远没有终点,"OpenAI 青少年与家庭业务负责人 Lauren Jonas 在接受采访时说道," 我们一直在学习和改进,包括如何识别青少年是否遇到困难,以及如何为他们提供所需的适当资源。"

目前,ChatGPT 已经提供家长控制功能,在高风险情况下发送安全提醒。此次推出的青少年版本还将增加针对饮食失调和暴力相关内容的提醒。

对于为何直到此次更新才加入这些功能,Jonas 表示:" 这需要在与青少年的隐私权之间取得平衡。"

OpenAI 的政策禁止 13 岁以下儿童使用聊天机器人,并要求 18 岁以下用户获得父母同意。公司将根据用户自行申报的年龄,以及其使用行为中的 " 一系列信号 ",来判断何时向用户提供青少年版本。

面向青少年的 ChatGPT 将引导他们更多使用教育类功能,并增加休息提醒和 " 安静时段 "(quiet hours)。用户或家长可以自行设定这些时段,在此期间 ChatGPT 将无法使用。

Jonas 表示,OpenAI" 目前并没有发现 ChatGPT 存在严重的过度使用问题,也没有发现长期持续使用的问题 "。但由于目前有关这一问题的研究仍然有限,公司采取了 " 较为保守的做法 "。

OpenAI 还被质疑为青少年提供问题答案,可能削弱他们的批判性思维和学习能力,这种现象被称为 " 认知卸载 "(cognitive offloading)。

OpenAI 表示,新版本将升级 " 学习模式 "(Study Mode),引导青少年一步一步解决问题,而不是直接给出答案。

Jonas 表示,ChatGPT 上的青少年用户中约 90% 将其用于学习,公司也 " 希望继续在这一体验的基础上进行完善,把它打造成为一种学习工具 "。

相关标签

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容