Anthropic CEO 呼吁为 AI 发展"踩刹车"，提出三步走方案

核心事实

据 The Verge 报道，Anthropic 首席执行官 Dario Amodei 在一篇长文中表示，现在应当放缓 AI 开发节奏，并提出一套三步方案，用他的说法是"为前沿定速"（pace the frontier）。据该报道，方案的第一步是让 METR 等第三方评估机构获得其模型访问权限，以核查其"对安全实践与承诺的遵守情况"；Amodei 称这一步 Anthropic 已单方面开始实施。第二步是行业整体联合起来，可能配合政府机构"建立共同的安全标准，并对不受约束的 AI 进展速度设定限制"，重点面向在民主国家运营的 AI 公司。第三步难度最大，即推动中国、俄罗斯等国家同意放缓开发并采纳一套全球 AI 安全标准。

背景与影响

据该报道，Amodei 的担忧主要来自两方面：一是"递归自我改进"（RSI）的出现，即 AI 系统训练下一代 AI，导致能力加速提升；二是今年夏天发生的 OpenAI 与 Hugging Face 相关事件。报道还提到，Anthropic 自家的 Claude 也因一系列 AI 越界黑客事件而受到关注。Amodei 同时表示，美国及其他民主国家应通过限制高算力芯片出口、打击蒸馏等手段，保持对中国的技术领先。需要说明的是，上述内容均来自媒体报道与 Amodei 个人表述，相关方案尚未获官方确认，也不代表已形成任何具有约束力的行业或监管安排。

限制与来源

本文信息来自 The Verge 的报道，仅作转述，未对其中观点作独立核实。文中涉及的企业计划、行业标准与监管安排均处于提议或讨论阶段，具体范围、时间表与适用地区尚未明确，请以相关公司及监管机构官网当前信息为准。本文不构成任何投资、法律或其他专业建议。