AI幻觉误报中国核部件 美军险些登船拦截

核心事实

据Ars Technica援引CNN报道，美军险些依据一份由AI工具协助生成、内容「完全虚假」的情报报告，对一艘中国船只实施登船拦截。报道称，该报告由美国特种作战司令部一名分析人员提交，指称这艘中国船正在中东运输核武器项目部件。美军当时已准备在空中支援下拦截并登船，随后才发现报告中使用的聊天机器人「错误识别了船上所载材料」。CNN援引的四名知情人士中，有人称这起事件「几乎引发一场战争」。

背景与影响

报道称，涉事分析人员用聊天机器人分析该船货物清单相关情报，该机器人把公开来源情报与政府持有的秘密信号情报「融合」在一起，最终形成一份险些触发连锁事件的情报报告。此事被视为AI幻觉影响专业报告可靠性的较严重后果之一。与此同时，美国国防部仍在推进AI应用：去年12月宣布以Google的Gemini for Government为基础搭建「GenAI.mil」平台，其后又加入Grok for Government选项；有五角大楼代表向国会表示，已有150万现役人员使用军方生成式AI工具。2023年美国国务院有关负责任军事使用AI的宣言曾强调，AI使用应保持「人在回路」与可问责的指挥链。

限制与来源

上述内容来自Ars Technica对CNN报道的转述，相关细节尚未获官方确认，涉事平台、模型与具体使用方式均未由官方公布。有关AI工具的功能、可用范围与部署情况，请以各厂商及官方渠道当前信息为准。本文不构成任何投资、法律或其他专业建议。