马斯克等人《停止大型AI实验：一封公开信》(全文中译)和中国外交部《全球人工智能治理倡议》

老牛尹龙

老牛按语

前面，我们已经整理了马斯克2026年1月6日的所谓“深度访谈”【点击阅读】、比尔•盖茨2026年8月26日的所谓“12页长文”【点击阅读】和达里奥•阿莫迪2026年9月12日发表的《我们必须调控前沿节奏》【点击阅读】的全文中译稿。

现在，我们往前追溯，整理出马斯克等人2023年3月22日发表的《停止大型AI实验：一封公开信》的全文中译稿，同时附上中国外交部于同年10月20日发布的《全球人工智能治理倡议》。

上述文件，反映了美国资产阶级精英们对于人工智能发展的基本观点和主张，以及中国官方和主流媒体的初步反应。

人工智能是当代科学技术发展的前沿，不仅会带来生产力的巨大发展，而且必将促进经济基础和上层建筑的深刻变革。如何正确认识和对待人工智能，是每一个马克思主义者不容回避的问题。

停止大型AI实验：一封公开信

（Pause Giant AI Experiments:

An Open Letter）

生命未来研究所

（Future of Life Institute, FLI）

2023年3月22日

【该信由马斯克、图灵奖得主约书亚•本吉奥、苹果联合创始人史蒂夫•沃兹尼亚克等千余名专家学者联名签署。】

原文链接：

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

我们呼吁所有实验室立即停止训练比GPT-4还要强大的AI系统至少六个月。

和人类智能相近的AI系统会为社会和人类带来极大风险，广泛的研究已经证明了这一点，顶尖的AI实验室也已经承认。正如阿西洛玛AI原则（Asilomar AI Principles）所指出的那样，“高级AI可能意味着地球生命史上的深刻变革，我们应当投入可观的关注和资源对其进行规划和管理”。不幸的是，这种规划和管理没人去做，而最近几个月，AI实验室正在开发和部署越来越强大的数字思维，这种竞争逐渐失控——包括它们的创造者在内，没有人能理解、预测或可靠地控制它们。

如今，AI系统在一般任务上已经具备了与人类竞争的能力，我们必须自问：是否该让信息渠道充斥着机器写就的宣传和谎言？是否应该把所有工作都自动化，包括那些有成就感的工作？是否该开发机器大脑，让它们比人脑还多，比人脑还聪明，最终淘汰我们取代我们？是否应该冒文明失控的风险？这样的决定绝不能委托给未经选举的技术领袖来做。只有当我们确信强大的AI系统是积极的、风险是可控的，才应该继续这种开发。而且AI的潜在影响越大，我们就越需要充分的理由来证明其可靠性。OpenAI最近关于人工通用智能的声明指出，“到了某个时间节点，在开始训练新系统之前可能需要进行独立审查，而用于新模型的计算的增长速度也应加以限制”。我们深深认同这份声明，而那个时间点就是现在。

因此，我们呼吁所有正在训练比GPT-4更强大的AI系统的实验室立即暂停训练，至少暂停6个月。实验暂停应该对外公开，可以验证，并涵盖所有关键的实验室。如果不能迅速实施，政府应该介入并发布禁止令。

在暂停期间，AI实验室和独立学者应针对高级AI的设计和开发共同制定实施一套共享安全协议。这份协议的审计和监督应由独立的外部专家严格执行，确保AI的安全性不超过合理的怀疑范围。这并不意味着我们要暂停人工智能的总体发展，而只是从目前这种会不断涌现出具有新能力的、不可预测的黑匣子模型的危险竞赛中退后一步。

人工智能的研究和开发应该重新聚焦于优化最先进的系统，让它更加准确、安全、可解释、透明、稳健、一致、值得信赖、对人类忠诚。

与此同时，AI开发人员必须与决策者合作，大力推进强有力的AI治理系统的发展。这个系统至少应包括：

——针对AI的新型监管机构

——对高能力AI系统的监督追踪和大型算力池

——帮助区分真实数据与AI生成的数据、并且追踪模型泄漏的溯源和水印系统

——强有力的审计和认证生态系统

——对AI造成的损害定责

——用于技术AI安全研究的强大公共资金

——应对AI可能会引发的巨大经济和政治动荡（尤其是对民主的影响）的有充足资源的机构

人类可以和AI共创繁荣未来。我们已经成功地创建了强大的AI系统，现在我们可以享受“AI之夏”，在这个过程中，收获回报，设计监管系统，造福所有人，并给社会一个适应的机会。我们已经暂停了其他可能产生灾难性影响的技术（如人类克隆、人类生殖系修饰、功能获得研究和优生学等），对于AI我们也应如此。

让我们享受一个长长的AI之夏，不要毫无准备地冲入秋天。

部分签署人名单

约书亚·本吉奥（Yoshua Bengio）：蒙特利尔大学，因对深度学习的开发获得图灵奖，蒙特利尔学习算法研究所所长

斯图尔特·罗素（Stuart Russell）：伯克利计算机科学教授，智能系统中心主任，《人工智能：现代方法》合著者

伊隆·马斯克（Elon Musk）：SpaceX、Tesla和Twitter的首席执行官

史蒂夫·沃兹尼亚克（Steve Wozniak）：苹果联合创始人

尤瓦尔·诺亚·赫拉利（Yuval Noah Harari）：作家和耶路撒冷希伯来大学教授

埃马德·莫斯塔克（Emad Mostaque）：Stability AI 首席执行官

约翰·霍普菲尔德（John J Hopfield）：普林斯顿大学名誉教授，联想神经网络的发明者

中华人民共和国外交部

全球人工智能治理倡议

2023年10月20日发布

来源：中华人民共和国外交部官网

人工智能是人类发展新领域。当前，全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战。人工智能治理攸关全人类命运，是世界各国面临的共同课题。

在世界和平与发展面临多元挑战的背景下，各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。

我们重申，各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。我们欢迎各国政府、国际组织、企业、科研院校、民间机构和公民个人等各主体秉持共商共建共享的理念，协力共同促进人工智能治理。

为此，我们倡议：

——发展人工智能应坚持“以人为本”理念，以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。积极支持以人工智能助力可持续发展，应对气候变化、生物多样性保护等全球性挑战。

——面向他国提供人工智能产品和服务时，应尊重他国主权，严格遵守他国法律，接受他国法律管辖。反对利用人工智能技术优势操纵舆论、传播虚假信息，干涉他国内政、社会制度及社会秩序，危害他国主权。

——发展人工智能应坚持“智能向善”的宗旨，遵守适用的国际法，符合和平、发展、公平、正义、民主、自由的全人类共同价值，共同防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的恶用滥用。各国尤其是大国对在军事领域研发和使用人工智能技术应该采取慎重负责的态度。

——发展人工智能应坚持相互尊重、平等互利的原则，各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利。鼓励全球共同推动人工智能健康发展，共享人工智能知识成果，开源人工智能技术。反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展。反对利用技术垄断和单边强制措施制造发展壁垒，恶意阻断全球人工智能供应链。

——推动建立风险等级测试评估体系，实施敏捷治理，分类分级管理，快速有效响应。研发主体不断提高人工智能可解释性和可预测性，提升数据真实性和准确性，确保人工智能始终处于人类控制之下，打造可审核、可监督、可追溯、可信赖的人工智能技术。

——逐步建立健全法律和规章制度，保障人工智能研发和应用中的个人隐私与数据安全，反对窃取、篡改、泄露和其他非法收集利用个人信息的行为。

——坚持公平性和非歧视性原则，避免在数据获取、算法设计、技术开发、产品研发与应用过程中，产生针对不同或特定民族、信仰、国别、性别等偏见和歧视。

——坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制，形成人工智能伦理指南，建立科技伦理审查和监管制度，明确人工智能相关主体的责任和权力边界，充分尊重并保障各群体合法权益，及时回应国内和国际相关伦理关切。

——坚持广泛参与、协商一致、循序渐进的原则，密切跟踪技术发展形势，开展风险评估和政策沟通，分享最佳操作实践。在此基础上，通过对话与合作，在充分尊重各国政策和实践差异性基础上，推动多利益攸关方积极参与，在国际人工智能治理领域形成广泛共识。

——积极发展用于人工智能治理的相关技术开发与应用，支持以人工智能技术防范人工智能风险，提高人工智能治理的技术能力。

——增强发展中国家在人工智能全球治理中的代表性和发言权，确保各国人工智能发展与治理的权利平等、机会平等、规则平等，开展面向发展中国家的国际合作与援助，不断弥合智能鸿沟和治理能力差距。积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题。