Anthropic 称已阻断多起利用 Claude 从事生物武器相关研究的尝试

核心事实

据 Ars Technica 援引《金融时报》报道，Anthropic 表示，今年已阻止多起科学家试图利用其技术从事可能有助于开发生物武器的研究。该公司给出了五个案例，称相关行为者绕过管控，并采取其他手段混淆研究目的以规避安全措施。案例涉及部分位于其禁止访问模型的国家和地区的用户，其中包括俄罗斯、中国和伊朗。Anthropic 称已封禁报告中提及的账号，但未披露相关研究机构名称或事件发生地。

背景与影响

报道称，其中一个案例是一名来自“不受支持地区”的研究人员用 Claude“花了数周时间规划”涉及禽流感的实验，其安全过滤器将该工作限制在能力最弱的模型上。Anthropic 强调，无法确定这些案例中的科学家是否有意造成伤害——制造生物武器所需的信息同样可用于研发疫苗。该公司称，希望借分享这些案例，推动 AI 行业与政府就新兴生物风险展开讨论。报道还提到，AI 高管与生物安全研究人员之间正形成一种共识：随着模型能力提升，生物学领域对 AI 的使用需要加以保障和监管。不过报道也指出，即便 AI 可用于设计理论上的生物武器，实际制造能力和所需资源等障碍依然存在。

限制与来源

上述内容来自 Ars Technica 对《金融时报》报道的转载，相关说法尚未获得独立核实，具体细节以 Anthropic 官方报告及官网当前信息为准。报道未披露涉事机构、国家及模型版本等细节，也未提供可验证的量化数据。