News
研究者在AI供应链植入200万「金丝雀」,暴露隐私泄露链
安全公司Dragos首席研究官HD Moore向AI服务链投放近200万条含唯一可追踪秘密的提示词,追踪其流向,发现至少三家AI供应商遭入侵、部分转售商记录并外传提示词,以及隐私设置未被遵守。
核心事实
据Ars Technica报道,安全公司Dragos首席研究官HD Moore开展了一项「金丝雀」实验:他准备了Amazon Web Services访问密钥、SSH等服务密码,以及唯一URL、DNS名称和私有git仓库引用,每个秘密只植入一条提示词、只发给一家供应商,共向AI供应商发送近200万条含唯一可追踪秘密的提示词,再追踪这些秘密在何处出现。他称结果揭示了安全入侵、提示词窃取以及对客户数据保护的普遍失职。
背景与影响
许多AI应用经由OpenRouter、Vercel等「AI路由器」或「AI网关」把提示词分发给推理服务商,提示词在每一跳都会被解密并可能被记录。Moore称,至少三家AI供应商被攻击者入侵,其中一家有「数百个」AWS密钥被复用,部分被窃请求标注了零数据保留(ZDR);另有两家被入侵供应商的密钥几乎立即从同一台租用服务器被合用,显示可能为同一对手。他还称部分转售商以低价吸引流量、开启请求日志后外传提示词,并有供应商抓取提示词中的秘密URL,包括标注「不收集数据」或ZDR的请求。他建议最有效的防泄露方式是本地自建模型,其次是从提供单一合同与隐私政策的一线供应商直接获取服务,并避免接受默认的供应商或转售商池。
限制与来源
上述发现来自Moore本人的公开陈述,尚未获相关供应商官方确认,具体受影响机构与规模未独立核实。文中未给出各供应商名称细节以外的定价、性能或地区可用性信息。用户隐私设置与数据处理方式请以各服务商官网当前信息为准。