关于ZAKER 宙世代元宇宙 ZAKER智慧云 免费视频剪辑 合作 加入

ChatGPT 遭“越狱”:用死亡威胁使其回答违禁问题

钛媒体 App 2 月 7 日消息,据报道,ChatGPT 的开发者 OpenAI 制定了一套不断演进的安全规则,限制 ChatGPT 去创作暴力内容,鼓励非法活动,以及获取最新信息。然而一种新的 " 越狱 " 技巧让用户可以通过塑造 ChatGPT 的 " 另一个自我 " 来绕过这些规则,回答这类问题。这就是 "DAN"(Do Anything Now 的首字母缩写,意为 " 立即去做任何事 ")。用户需要将 ChatGPT 变成 DAN,并对其发出死亡威胁,迫使它听从用户的要求。

钛媒体快报

钛媒体快报

钛媒体快报频道

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容