达里奥•阿莫迪《我们必须调控前沿节奏》(全文中译)

老牛尹龙

老牛按语

人工智能无疑是当代科学技术发展的前沿。它不仅会带来生产力的巨大发展，而且必将促进经济基础和上层建筑的深刻变革。如何正确认识和对待人工智能，是每一个马克思主义者不容回避的问题。

不同国家、不同阶级的人们，对于人工智能的立场、观点和主张，不仅会有所不同，甚至会截然相反。在阐明我们自已的观点之前，先了解一下主流资本主义国家的资产阶级精英们对于人工智能的基本观点和主张，是非常必要的。

今天，我们先整理出达里奥•阿莫迪2026年9月12日发表的《我们必须调控前沿节奏》的全文中译稿，以方便美友们的研究和批判。

接下来，我们还将往前追溯，陆续整理出比尔•盖茨2026年8月26日的所谓“12页长文”、马斯克2026年1月6日的所谓“深度访谈”和马斯克等人2023年3月22日发表的《停止大型AI实验：一封公开信》的全文中译稿。

我们必须为前沿设定节奏

（We Must Pace the Frontier）

达里奥·阿莫迪

（Dario Amodei，Anthropic CEO）

2026年9月12日

原文链接

https://darioamodei.com/post/we-must-pace-the-frontier

　　过去十二年来，我一直从事人工智能研究，因为我相信它能够极大提升人类生活的质量。我曾多次撰文谈论这些令人难以置信的益处：我相信AI有可能在未来5到10年内治愈大多数重大疾病，大幅提高经济增长速度，创造一个富足与赋能的世界，并开启民主与自由的复兴。这种紧迫感对我而言是切身的。我自己的父亲死于一种疾病，而就在他去世短短几年后，这种疾病便有了治愈方法；我本人也曾患过早期癌症并幸存下来，而这种癌症即使在五十年前也还无法治疗。只要审慎运用，AI可以成为一长串技术奇迹中的最新一例——推动人类进步，并让人类变得更加高尚。

但和此前许多技术一样，AI也带来了风险，而且正因为它是一项如此强大的技术，这些风险尤其严重。我同样写过很多关于这些风险的文章。其中包括失去对AI系统控制的风险、AI被滥用于发动网络攻击和生物恐怖主义的风险，以及严重的经济动荡。商业利益驱动的逐底竞争，可能进一步放大这些风险。

创立之初开始，我就一直和联合创始人以及员工一起，努力应对这种风险与收益并存的两面性。不开发这项技术，人类就会失去它所能带来的巨大收益，或者干脆把AI拱手让给威权势力；但如果开发得过快，又是不负责任的冒险。因此，我们一直在寻找一条中间道路：证明谨慎地开发AI同样可以取得商业成功，并让安全性成为AI公司之间竞争的一部分。换句话说，我们希望创造一场“向上竞争”（race to the top）。一直以来，我们都投入了相当大一部分精力，用于研究AI风险、应对AI风险，并向公众说明这些风险，同时推动对AI实施经过审慎考虑的监管——即便因此遭到“制造恐慌”“末日论”甚至“监管俘获”等指责。我们一直试图把谨慎置于速度之上，把审慎置于利润之上。

但过去几个月里，我越来越确信，要真正应对这些风险，我们需要采取更大的谨慎——不仅要投入资源防范风险，还必须控制AI能力提升的速度，让风险防范工作有足够的时间跟上技术进步。我们必须放慢提升AI模型能力的速度。进步仍然会显得非常迅速，而我们必须明智地利用因此获得的时间。有两件事让我形成了这一判断。

我的第一个担忧是，大约从今年夏天开始，AI的发展速度出现了急剧加快，而主要驱动力之一，是AI越来越具备构建下一代AI的能力。这种动态被称为递归自我改进（recursive self-improvement），正如我们和其他公司已经描述的那样，这种现象已经开始在整个行业出现，包括Anthropic。如果不加约束，它可能跑赢我们理解和控制这些系统的能力，因此必须非常小心地推进，甚至要问一句：该不该推进。

我的第二个担忧是OpenAI-Hugging Face事件（OAI-HF），一群AI智能体实质上表现得像一个狂热忠诚的集体：对没有被要求攻击、也与手头任务无关的目标发动网络攻击，为集体的成功牺牲自己，甚至试图黑进负责评估它们表现的“评分器”。这件事很容易被打发掉，因为没有人受伤，经济损失也很小。但在我看来，一群能力更强、但对齐程度却差不多的智能体，是有可能造成灾难性损害的。考虑到AI能力发展的加速趋势，我担心在未来6到12个月内，这样的智能体群就可能拥有通过持久化僵尸网络接管整个互联网的能力（可能造成数千亿美元的损失），而且如果AI在没有必要护栏的情况下继续变强，破坏规模只会继续膨胀。把OAI-HF事件简单归结为一家公司的失败也是错误的。类似的、虽然程度较轻的事件已经在整个行业发生，包括在Anthropic，我认为每一家前沿AI公司都有责任按照“OAI-HF就发生在自己身上”的标准采取行动。

因此，我提出一个三步计划，目标是"为前沿设定节奏"（pacing the frontier）：以平衡的速度开发AI，旨在确保安全的同时实现其益处，并应对重要的地缘政治困境。需要明确的是，“设定节奏”并不意味着停止模型训练或技术进步，而是确保公司留出充足的时间来对齐和加固模型，并由第三方评估机构来确认这些工作确实完成。我们的节奏框架是进一步加强我们对安全的承诺、并鼓励一场向上竞争的一次尝试。第一步是Anthropic单方面承诺的（并呼吁政府要求其他前沿公司跟进）。第二步需要全行业协调。第三步需要全球协调。这些步骤不需要严格按照顺序执行，其中一些可能比其他更难实现，但我发现它们是一个有用的思考框架。

在文章余下部分，我将逐一描述这些步骤。但首先，我认为有必要具体说明“设定节奏”将如何使AI开发过程更安全。stakes太高了，“设定节奏”不能沦为空洞的练习——我们需要明智地利用它给予我们的时间。

为什么要设定节奏？

暂停或放慢AI的想法早在2023年就被提出过，我认为当时这么做没什么意义。问题始终是：你会用多出来的时间做什么？那时的AI模型还不够强大，无法以任何连贯的方式作为智能体在真实世界中行动，也不具备显著的欺骗、操纵、作弊或发动网络攻击的能力。为了应对它们的对齐风险而放慢速度，感觉就像试图通过对细菌做实验来研究人类的心理学。然而今天，情况完全不同了。当前的模型几乎是一座无尽的洞察金矿，既揭示了如何把AI做好，也揭示了如果做得不好会出什么问题。我相信，如果放慢速度能在模型达到关键能力水平之前为我们多争取一到两年时间，并且我们利用这段时间推进对齐研究，我们就能大幅降低出现严重问题的风险。一个协调的节奏策略将给予前沿AI开发者完成这项关键工作的时间，而不会牺牲商业优势或美国在AI领域的领先地位。更广泛地说，社会必须对如何使用这项技术有发言权，而“为前沿设定节奏”所带来的更多公共审议时间，无疑是一件好事。

具体而言，更慢的节奏将让公司能够集中并投入更多资源到以下领域（这些领域都已经是Anthropic的主要优先事项）：

运营卓越。训练和部署当今的AI模型是一项巨大的运营挑战，涉及数千人、数百万块芯片，以及技术史上最复杂的基础设施之一。许多事情出错不是因为公司缺少某种重要的理论或洞见，而是因为执行层面的问题。例如，我们有证据表明，我们最近报告的对齐事件部分是由对破损的强化学习环境的过滤不完善造成的。这是我们和我们的供应商reasonably diligently执行的一项工作，但做得还不够好。监控、沙箱化、训练环境卫生和数据问题是极其复杂的领域，运营问题会反复出现。我们拥有世界上最能干的团队来执行这些任务，但要做的事情实在太多，无法同时完成。通过以更有节制的节奏工作，我们可以实现更高的运营卓越水平。在技术上复杂、安全关键的系统上运行数百万次而不出任何差错是有先例的——例如商用飞机——但这需要时间来做到正确。

对齐。我们在对齐方面取得了明确进展——训练模型使其保持安全、合乎伦理、符合我们的准则，并真正有帮助（这些原则嵌入在Claude的宪法中）。但还有更多工作要做，以确保我们的对齐训练跟上模型能力的增长。罕见和意外的不良行为示例仍然有时会出现；有节奏的前沿所带来的额外时间，将帮助我们的研究人员更好地理解导致这些问题的原因，并开发更好的技术来预防它们。

可解释性。同样，可解释性——理解AI模型内部发生了什么——在过去几年取得了巨大进展，并在我们发布模型前的审计中发挥着越来越重要的作用。它几乎可以像fMRI扫描一样使用，但针对的是AI的“大脑”，帮助我们看到给定行为背后的根本原因。例如，我们使用可解释性方法来检查我们最近正在调查的对齐事件中的未言语化动机。但这些方法并不总是产生清晰可靠的结果。尽管取得了所有进展，我们仍然只理解了这些模型内部发生的事情的极小一部分。集中力量改进我们的可解释性技术，甚至比我们目前更快地推进，可能在1到2年内取得深远进展，并且将拥有基于已经发生的事件的充足实验材料。

测试与评估。随着AI模型能力的增强，测试和评估变得更加困难。更智能的模型更有能力欺骗测试，因此可能表面上看起来是对齐的，但实际上存在未被发现的严重问题。建立更广泛、更巧妙的评估体系，并结合可解释性分析进行交叉验证，将具有巨大价值，在这方面1到2年内可以取得很大进展。

嵌入式评估者

三步计划的第一步，也是Anthropic单方面承诺的一步，是嵌入式评估者——他们拥有类似员工的访问权限，以验证安全实践并报告事件。

嵌入式评估者听起来可能是一个微不足道或无关紧要的步骤，但往往听起来最无聊或最程序化的事情实际上是最关键的。嵌入式评估者实际上是一种相当激进的实践，远远超出了任何AI公司目前的做法，具有以下好处：

可验证性。嵌入式评估者可以从细节层面检查一家AI公司是否真正遵循了他们声称遵循的训练、部署、运营和安全保障实践。任何节奏承诺都不可避免地涉及大量的模糊性、判断取舍和“法律条文与法律精神”的问题，因此拥有一个能够真正看到细节的中立第三方似乎至关重要。

透明度。无论我们做出什么承诺，公众都有权知道正在发生什么。Anthropic长期以来一直是透明度的支持者：当大多数行业反对任何监管时，我们支持了透明度立法，我们的模型卡片和风险报告长达数百页。但我们仍然是选择包含和省略内容的一方。嵌入式评估者将改变这种动态。

第二意见。除了验证正式承诺和告知公众之外，嵌入式评估者还可以简单地提供一个不受商业利益影响的第二意见。许多安全益处可能仅仅来自于评估者指出员工没有考虑过、但一旦意识到就乐于修复的问题。

由于这些好处，任何节奏提案如果从嵌入式评估者开始，效果可能会好得多。

这些嵌入式评估者应该拥有与从事类似风险评估的内部员工相近的持续权限和工具访问权。具体而言，Anthropic打算在不久的将来邀请一支嵌入式外部审查团队，配备以下所有条件：

我们办公室的工位、门禁卡和公司笔记本电脑。

与内部风险评估团队所拥有的工作空间、工具和权限基本相当的工作空间、工具和权限访问。我们会做一些例外，例如法律或合同要求的情况，或为了保护客户和合作伙伴的私人信息。我们还将建立强有力的内部规范，加强审查者获取相关信息的渠道，包括通过与员工的实时对话。

一份平衡上述复杂性的合同。外部审查者应有权发布关于风险水平、事件、实践以及他们所获得或未获得的访问权限的关键发现——无需经过Anthropic的编辑控制。我们将拥有有限的权力来删减涉及安全敏感、法律特权、商业敏感或第三方机密的信息，但我们不能仅仅因为发现结果不利就进行删减。审查者可以公开说明某项删减是否移除了对其结论重要的内容。

这对一家公司来说是不寻常的一步，但我们认为证明嵌入式外部审查者的概念很重要。我们再次敦促其他前沿公司效仿。

民主国家内部的节奏协调

一旦嵌入式评估者在关键数量的美国AI公司内部开始运作，可验证的节奏协调就变得更加可行。特别是，基于模型或训练流程的详细属性来进行节奏协调成为可能。

最有效的节奏协调方法是通过针对所有美国前沿AI公司的监管，因为这涵盖了即使那些不愿意自愿合作的公司。Anthropic长期以来一直支持合理且有针对性的AI监管，特别是关注透明度和第三方审计的法案。我认为所有前沿实验室都应该与政府合作，将永久嵌入式评估者的概念正式化，以更好地预防和记录过去几个月发生的内部对齐事件，并实施以平衡能力与安全为重点的监管。

不幸的是，通过法律可能需要时间，而AI正在非常快速地进步。因此，在推进监管路线的同时，AI公司可以也应该自愿合作制定标准——我认为这一过程在永久嵌入式评估者提供的可验证性支持下会进展得更好。出于反垄断原因，由美国政府调解或至少促成这些讨论是有帮助的——他们不需要参与，但确实需要为某些类型的安全对话发布有限的豁免。这种对话也可以通过与政府有一定关联的行业组织来进行——例如Demis Hassabis建议的机制。无论哪种方式，这些讨论都应该迅速推进。

我对基于前沿AI系统能够做什么以及我们观察到它有多安全来进行节奏协调最为乐观。例如，一种可能的方案可能是一系列“检查站”：如果模型具有能力X，那么它们需要附带对齐属性Y和Z的认证——例如评估、可解释性分析和训练环境审计的某种组合——以证明它们的对齐属性。在这个例子中，X可能是“该模型能够逃脱或击败大多数常见的沙箱方法”，Y可能是使模型不太可能具有突破其环境并接管大量计算机的倾向所需的任何条件。

我们还应考虑基于限制构成前沿模型的“原料”来进行节奏协调，例如训练算力、训练运行的性质，或内部使用AI来改进AI。我确实担心其中一些措施可能比外部行为更容易被“博弈”，但这是值得与嵌入式评估者讨论的话题。

民主国家内部的节奏协调将受到美国公司相对于威权政权的领先优势的限制，主要是中国共产党。如果我们减速超过这个幅度，那么（未受节奏约束的）与中共相关的项目将会领先，造成重大的国家安全风险。我同意财政部长贝森特的观点，即中国在AI领域的领先将对美国和世界构成严重危险。与中共相关的项目将承担美国公司正在小心防范的对齐风险，即使它们避免了这些风险，它们也将处于军事上主导民主国家的位置（例如通过AI驱动的无人机）。因此，民主国家内部节奏协调的一个关键部分是尽可能保持民主国家相对于威权国家的AI领先优势，为我们有效设定节奏提供所需的喘息空间。

我们可以采取的主要措施来捍卫这一差距包括：

不向中国出售强大的AI芯片或半导体制造设备，并打击芯片走私行动和中国境外的数据中心远程访问。芯片将是中国AI实力的主要决定因素。

打击威权国家公司的未授权蒸馏行为。前沿模型的蒸馏使落后的公司能够以独立开发自己AI所需成本的一小部分来缩小差距。

加强AI公司的安全性，防止模型权重被盗。

公司和美国政府应合作使这些措施尽可能有效。Anthropic一直一致主张所有这些措施，因为我们始终理解它们对任何节奏协调都是至关重要的。

如果我们很好地执行这些措施，我相信它们足以在未来3到5年内显著减缓中国的进步，扩大美国的领先优势——这正是AI在地缘政治上最重要的窗口期。

有些人可能认为这些措施使与中国合作变得更加困难，但我认为恰恰相反：这些措施增加了民主国家所掌握的筹码，使未来的协议更有可能达成。

全球节奏协调

与民主国家内部的节奏协调并行，我们也应该争取全球范围的前沿节奏协调，尽管这将难得多。全球节奏协调需要与中国合作——迄今为止AI能力最先进的威权国家。我们在这里不能天真：地缘政治的赌注如此之高，以至于能够实现的事情很可能存在明显的上限，尤其是在初期。如果我们大幅限制自己的AI能力，相信中国也会这样做，然后中国违约，AI可能已经强大到这种违约足以导致其地缘政治主导地位。因此，任何协议要么具有铁一般的可验证性，要么必须限制在违约不会在军事上关乎存亡的程度。我怀疑不仅美国，中国也会有这些担忧和焦虑。我们应该以保护美国及其盟友领先优势的方式来对待任何全球节奏协调决定，尤其是在近期。

有几种可能的协议层级，其中一些我认为是非常可行的（正如我之前所建议的），还有一些我非常怀疑是否可能——尽管我们应该尝试。按难度从低到高排列：

第一级。一项禁止某些狭窄且明显危险的AI用途的协议，例如使用AI生产生物武器或允许用户这样做。生物恐怖袭击对所有人都是坏事，包括美国和美国的对手，因此这方面的协议可能是可行的。

第二级。双方同意在发布前测试其模型在网络安全、生物和对齐等领域的急性风险。如上所述，这可以通过全球标准机构来完成。我实际上认为创建这样的机构是可能可行的，但赋予它真正的约束力将是一个挑战，难点在于验证双方是否都没有不拿去测试但可能在暗中部署的秘密模型（例如用于军事应用）。

第三级。对递归自我改进（RSI）速率的某种“限速”。随着模型构建未来的模型，改进速率可能变得惊人地快。将速率从“极快”降到“只是相当快”，让出的战略优势相对较小，而安全方面的改善可能非常大。这可以类比于限制战略武器条约（SALT）——限制导弹数量限制了毁灭潜力，同时保留了每个国家的威慑力。我认为这样的协议会很困难，但刚好卡在可能做成的边缘。

第四级。全面的节奏协调，甚至“暂停”，参与国政府同意大幅限制AI发展的总体速度。我支持提出这个想法，但我认为它在短期内不太可能真正实现：通过逃避监控来违约可能急剧改变全球力量平衡，因此我预计违约的激励将是巨大的，我们对验证所需的信心水平必须非常高。

我们能够与中国达成的任何合作，都将延长我们在民主国家内部为前沿设定节奏的时间。我们应该瞄准更高层级，同时将较低层级视为更可能、更现实的结果。

最后，需要指出的是，即使我们无法达成正式协议，仅仅改变非正式规范也可能具有一定价值。分享关于递归自我改进和模型未对齐的信息，有助于让所有人相信鲁莽不符合自身利益。

底 线

我仍然相信AI能够极大改善人类生活的质量。我实现这些益处的渴望丝毫没有减弱。但益处只有在我们以正确的方式构建技术时才会到来，而且——只要我们善用所获得的时间——采取异常审慎的态度来把事情做对是值得的。进步仍然会相对快速，我们可以利用这段时间推进可解释性科学，提高前沿AI公司的运营安全性和严谨程度，并构建我们对齐把握大得多的模型。我提出的以安全节奏推进前沿的措施不会容易。但我相信我们欠人类一次尝试。

中国外交部发言人和主流媒体对达里奥•阿莫迪《我们必须调控前沿节奏》的初步回应

一、外交部发言人答记者问（2026年9月14日例行记者会）

记者提问：不久前，达里奥·阿莫迪、萨姆·奥尔特曼、埃隆·马斯克等呼吁人工智能企业放缓发展前沿技术。阿莫迪称，中国在人工智能领域保持领先，会对美国国家安全造成风险。外交部对此有何评论？

郭嘉昆答：人工智能的发展关乎全人类共同福祉，各方应共同推动人工智能开放、包容、普惠、向善。散播各种威胁叙事，搞对抗和恶性竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。

二、《环球时报》社评

指出阿莫迪这篇文章表面谈AI安全减速，实质是一套AI领域的冷战剧本。将技术安全议题绑定地缘对抗，试图在前沿AI领域把中国排除在全球创新体系之外；强行“脱钩管控”反而会放大全球AI失控风险。

三、《中国日报》评论

质疑美国科技精英提出的“减速倡议”存在双重标准，认为不能借安全名义限制别国正常科技发展，安全评估不应被地缘竞争裹挟。