古特雷斯当天在日内瓦举行的首届政府级全球 AI 治理对话上表示：" 一项能够重塑全球经济、改变劳动市场、左右选举结果、甚至影响全球安全格局的技术，其部署速度已经快到任何人——包括开发这项技术的人，都难以跟上。"
他强调：" 创新需要护栏。如果 AI 要真正发挥强大作用，就必须接受有效治理。"
此次为期两天的联合国全球 AI 治理对话，并非旨在推动达成具有法律约束力的国际条约，而是希望围绕如何建立 AI 治理规则展开讨论，以降低 AI 可能带来的风险，同时充分释放其发展机遇。
据悉， 约 1500 名来自世界各地的代表将开展对话，此次会议汇聚了企业、研究人员、技术专家和民间社会代表，共同探讨如何将人类置于这项变革性技术的核心。。
会议期间，各国代表还将审议一份由联合国支持、40 位国际专家组成的独立科学小组提交的报告。这份报告是全球首份独立开展的 AI 科学评估成果。
联合国计划于明年发布更加全面的评估报告，并将在纽约举行第二届全球 AI 治理会议。
呼吁建立全球统一 AI 监管框架
古特雷斯强调，全球统一的 AI 监管规则必须将儿童安全置于首位。他指出，目前已有案例显示，未成年人在使用 AI 过程中被诱导产生自残倾向，或者受到伪装成朋友的 AI 系统误导。
" 我们不会让药物在证明安全之前到达儿童手中。我们会对每一个玩具进行测试。然而，AI 已经触及我们的孩子——他们的学习、他们的友谊、他们最私密的问题，却没有任何人事先问过这对他们会产生什么影响。"
他呼吁制定 AI 儿童安全承诺书，要求构建系统的公司必须在向儿童开放之前证明其安全性。
虽然 AI 在医疗保健等领域带来重大机遇，但古特雷斯表示，世界各国的机构尚未为机器做出决策做好准备，而且 AI 的飞速发展意味着机器越来越多地在几乎没有人类或政府监督的情况下做出选择。
古特雷斯指出：" 互联网用了 15 年时间才覆盖 10 亿用户，而 AI 仅用了两年就达到了这一规模。"
他还警告称，最先进的 AI 系统集中在少数公司和少数国家手中，这意味着发展中国家在 AI 进展中几乎没有发言权，并面临被甩在后面的风险。
联合国支持的独立科学专家报告显示，AI 的发展实际上更加集中，虽然全球每周有超过 10 亿人使用对话式 AI，但发展中国家的采用率仍然滞后。
"AI 的影响太过重大，不应由少数人来塑造。我们需要一场全球性、包容性强且基于证据的对话，" 联合国数字与新兴技术特使阿曼迪普 · 辛格 · 吉尔表示。
