当地时间 3 月 31 日（周五），意大利个人数据保护局宣布，即日起暂时禁止使用聊天机器人 ChatGPT，并表示已对开发该产品的 OpenAI 公司展开调查。
OpenAI 的生成式人工智能（AI）产品风靡全球的同时，其引发的争议和担忧也在不断发酵。
本周，马斯克、图灵奖得主等一众大佬签署公开信、联名呼吁暂停大型 AI 研究，欧洲执法机构和消费者保护组织也先后拉响对 ChatGPT 潜在危害的警报。
美国人工智能协会前主席托马斯迪特里希（Thomas Dietterich）对《每日经济新闻》记者表示，不法分子确实有可能利用生成式 AI 进行新形式的犯罪，但监管的对象应该是技术的危害而不是技术本身。
迪特里希进一步指出，虽然公开信警告的 AI 风险多数言过其实，但是虚假信息的暴增是一个亟待处理的严峻问题。他建议开发一整套认证内容来源的技术。
图片来源：视觉中国
意大利禁用 ChatGPT，OpenAI 恐面临 2000 万欧元罚款
意大利个人数据保护局暂停 ChatGPT 主要出于用户隐私数据保护和未成年人保护的考虑。
该机构称，ChatGPT 没有就收集和处理用户信息进行告知，" 没有任何法律依据表明，为了‘训练’平台背后的算法而大规模收集和存储个人数据是合理的 "。此外，ChatGPT 还出现过数据泄露的情况，导致用户对话数据和付款服务信息被其他人看到的情况出现。
该机构还表示，虽然根据 OpenAI 发布的条款，ChatGPT 针对的是 13 岁以上的用户，但并没有年龄核实系统来验证用户年龄，导致儿童接受到 " 完全不适合他们发育和自我意识阶段的回答 "。
OpenAI 必须在 20 天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高 2000 万欧元或公司全球年营业额 4% 的罚款。
OpenAI 尚未回复媒体的置评请求。
一向走在数字监管前沿的欧盟对 ChatGPT 亦十分警惕。本周，欧盟执法机构欧洲刑警组织 ( Europol ) 警告称，ChatGPT 可能被滥用于网络钓鱼、虚假信息和网络犯罪，加剧了对法律、道德等各种问题的担忧。此外，欧洲消费者联盟 3 月 30 日呼吁欧盟和成员国的监管机构对 ChatGPT 展开调查。
" 犯罪分子肯定会尝试利用这项技术，我相信会有新型的金融诈骗和网络攻击出现。但另一方面，这项技术也有可能增强人类监测诈骗和网络攻击的能力，" 机器学习领域的奠基人之一、美国人工智能协会前主席托马斯迪特里希向《每日经济新闻》记者分析了生成式 AI 技术的潜在风险。
迪特里希指出，每项 AI 技术在应用前都应该进行风险评估，但该受监管的是技术带来的危害而不是技术本身。" 金融诈骗、侵犯隐私、窃取知识产权本来就已经是犯罪了，法律要做的是在威胁发生变化时进行更新，" 迪特里希表示。
虚假信息应成监管重点
3 月 29 日，图灵奖得主约书亚 · 本希奥，特斯拉 CEO 马斯克、苹果联合创始人史蒂夫 · 沃兹尼亚克等 1000 多名来自学界、商界和政策界的人士发表联名信，要求暂停研发强于 GPT-4 的 AI 系统至少 6 个月，以便更好地评估风险和建立监管框架。
这封分量十足的公开信将 OpenAI 推到了风口浪尖，对 AI 的担忧也成为了热门话题。迪特里希向《每日经济新闻》记者表示，信中所陈列的 AI 危害，如自动化导致所有工作岗位消失、人类被更聪明的 AI 取代、失去对文明的控制，都言过其实了，而且暂停新 AI 系统的研发也不能解决这些问题。
不过，迪特里希认为，生成式 AI 导致虚假内容泛滥的风险确实是真实而紧迫的。
"生成式 AI 让信息洪流进一步增长，而且现有的手段难以充分过滤假信息，这一点是绝对正确的，" 迪特里希表示。他认为，可以仿照互联网的超文本传输安全协议（https），建立起一整套的认证基础设施，用来鉴定图像和信息是否来自可靠的来源，现有的密码学技术应该能够做到这一点。
" 我强烈支持限制 AI 生成的信息（包括电子邮件、广告和社交媒体内容）的法律法规，也支持研发实用的认证机制，" 迪特里希告诉每经记者。
虽然迪特里希认为公开信所警告的 AI 风险过于 " 惊悚 "，但 OpenAI 在发布最新的 GPT-4 模型时信息不透明，违背了 AI 研究领域长期以来的开源精神，这一点确实值得担忧。
"OpenAI 在发布最新的 GPT-4 时向外界透露的信息很少，我对此表示不满。我希望他们能公开 GPT-4 的架构、训练数据和规模。他们（OpenAI）不公开似乎更多是出于保护商业优势的考虑，而不是技术上存在风险。幸运的是，其他公司也在开发类似的竞品，其中有些项目就是开源的，" 迪特里希补充道。
每日经济新闻
