AB
AiBoss
ニュース

Baseten 与 Goodfire 公布 Project Beacon,拟将安全监控接入模型推理

Baseten 与 Goodfire 宣布合作开发 Project Beacon,计划结合模型内部激活信号与文本检查,在推理层识别不安全行为;产品能力仍在建设中。

Baseten 与 Goodfire AI 宣布 Project Beacon 合作。两家公司计划把模型内部激活信号监测与文本检查接入推理流程,识别提示词注入、敏感信息暴露等风险,并由客户策略决定审批、拒绝、回退或记录。

官方公告使用了“计划”“正在建设”等表述,首批能力预计未来数月面向部分模型和早期伙伴推出;目前不能称其已全面上线。

参考:Baseten 官方公告