Anthropic首席执行官呼吁放缓AI发展 提议引入第三方安全评估

核心要点

• 呼吁放缓研发步伐：Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开表示，目前已经到了必须为人工智能研发踩下刹车、放缓开发节奏的时刻。
• 提出“调控前沿步伐”计划：阿莫代伊在一篇长篇论述文章中提出了一个三步计划，旨在“调控前沿步伐”（pace the frontier），以可控的方式管理前沿技术推进速度。
• 引入独立第三方评估：Anthropic宣布将向METR等第三方评估机构开放其模型访问权限，以此协助核查并确保公司切实遵守既定的安全实践与安全承诺。

详细分析

倡导为AI“踩刹车”：放缓前沿技术演进步伐

在当前AI大模型能力竞相加速突破的背景下，Anthropic首席执行官达里奥·阿莫代伊发出了不同的声音。他明确指出，现阶段应当放缓人工智能的开发进程。阿莫代伊在一篇论述性文章中提出了“调控前沿步伐”（pace the frontier）的概念，这一表述的核心意图在于降低行业推进前沿模型开发的速度，通过更有节制的节奏来应对技术快速迭代所伴随的未知挑战。

接受外部监督：向METR等机构开放模型访问权限

为了将安全承诺落到实处，阿莫代伊宣布Anthropic将向第三方评估机构提供其AI模型的访问权限，并明确提到了评估机构METR。此举旨在借助外部独立专业机构的测试与评估能力，对模型进行客观审查。通过外部机构的介入，Anthropic希望切实检验其对安全实践和各项安全承诺的遵守情况，以增强模型安全治理的透明度与可信度。

提出三步计划：平衡前沿推进与安全规范

阿莫代伊在文章中系统构想了一套应对前沿AI挑战的路径，提出了被称为“调控前沿步伐”的三步方案。该方案旨在为前沿模型的研发节奏设置合理规范，促使AI开发从单纯追求能力扩张转向更加重视安全边际。通过制定阶段性调控措施并结合第三方评估机制，力求使安全防护措施与模型能力的发展保持同步。

行业影响

作为全球前沿大模型的重要研发机构之一，Anthropic掌门人公开呼吁放缓AI开发速度并提出相应行动方案，对行业发展理念具有重要的警示与导向意义。首先，这一举措将促使行业重新审视无序竞速可能带来的安全隐患，强化对AI安全治理重要性的认知；其次，主动向METR等第三方机构开放模型访问权限的做法，为前沿模型接受外部独立安全评估树立了实践范例，推动行业在安全承诺履约与第三方监督机制建设上迈出实质性步伐。

常见问题

为什么Anthropic首席执行官认为需要放缓AI开发？

达里奥·阿莫代伊认为当前已经到了应当放缓人工智能研发节奏的时刻，目的是更好地管理前沿技术风险，确保技术发展不会脱离安全实践与相关承诺的约束。

Anthropic将如何证明其安全承诺的履行？

Anthropic计划向METR等第三方独立评估机构开放其AI模型的访问权限，由外部机构协助审查和验证其对各项安全规范与承诺的执行情况。

“调控前沿步伐”（pace the frontier）的核心含义是什么？

该表述是阿莫代伊提出的三步计划中的核心概念，本质上是指主动调节并放慢前沿AI的发展与迭代速度，避免技术在缺乏充分安全保障的前提下过快推进。