摘要：
... 界面新闻记者 |
界面新闻编辑 | 文姝琪
随着AI在各行各业中广泛应用，一些新的问题也涌现出来。
比如，在自动驾驶等关乎生命权、道德决策和社会责任的应用场景中，AI缺乏具有普遍性的伦理尺度，可能引发新的“电车难题”；在信息传播等涉及公共利益的场景中，图片、视频生成模型的能力越来越强，已经能够达到以假乱真的程度，导致谣言问题频发，但多数国家的深度伪造检测标准尚未建立，监管工具迭代速度远不及技术发展速度。
在2025世界人工智能大会暨人工智能全球治理高级别会议上，图灵奖和诺贝尔奖得主、神经网络之父杰弗里·辛顿提出了一个更严峻的问题：如果我们生产出比人类更智能的AI，世界会变成什么样？
在杰弗里·辛顿看来，到那个时候，人类就像3岁的小孩子，而AI就像是成年人，AI操控人类就会变成一件很容易的事，人类把更聪明的AI关掉反而变得不现实。
无论是AI给当下各种生活、工作场景带来的问题，还是未来AI可能会出现的“失控”风险，都给监管部门以及AI从业者带来越来越多警醒：人类必须找到一些更好地办法来训练AI，让AI真正解决生活、工作场景的问题，提升效率，而且能够被人类所完全掌控。
但从全球来看，AI治理仍然呈现分化的态势，不同国家的治理思路甚至还出现了对立，这给解决AI带来的风险带来了更大的挑战。
一方面，不同国家和组织对AI治理并未形成统一的规范。根据《中国科学院院刊》的研究统计，全球不同国家、组织在过去10年所出台的人工智能规范框架、标准原则、治理倡议超过3000份。这些人工智能规范体系相互交叉、彼此重叠，不仅加剧了各类治理规则间的冲突与摩擦，更对治理效能造成了制约。
另一方面，欧美等传统技术强国试图继续巩固其在国际规则制定中主导地位的意图，很多发展中国家仅获得参与讨论的机会。这种话语权上的差异导致治理成果很难反应发展中国家的利益和文化诉求，有失公平，也会带来更大的AI鸿沟。
在2025世界人工智能大会暨人工智能全球治理高级别会议的小组讨论上，美国加州大学伯克利分校计算机科学杰出教授斯图尔特·罗素（Stuart Russell）表示，当下AI治理的一个障碍是AI公司所在的国家都在进行某种程度的“竞赛”，他们的心态都是要做第一个打造出AGI通用人工智能的国家。
在斯图尔特·罗素看来，这样的竞赛是没有意义的，因为AGI一旦创造出来之后，一定是无限的财富创造者。“我们应该提前承诺一件事，那就是AGI通用人工智能成为全球公共资源，所有人类都面对的公共资源，对这一点进行竞争没有意义。”
在去年举办的第78届联合国大会上，中国提出的加强人工智能能力建设国际合作决议获得通过。该决议强调人工智能发展应坚持以人为本、智能向善、造福人类的原则，鼓励通过国际合作和实际行动帮助各国特别是发展中国家加强人工智能能力建设，增强发展中国家在人工智能全球治理中的代表性和发言权，倡导开放、公平、非歧视的商业环境。
在2025世界人工智能大会暨人工智能全球治理高级别会议的炉边对话中，Relativity Space执行董事长、首席执行官埃里克·施密特对通过国际合作来进行AI治理的思路表达了认可。他表示，“总体来说，我们在治理相关讨论上还没做好准备。作为最大的以及最重要的经济体，美国和中国应该一起合作，因为我们的利益在于要让世界稳定，让世界不打仗，让世界和平，确保人类能够控制住这些工具。”
