News
Anthropic 推出 Message Threads 公测,减少长对话重复上传
Message Threads 允许首次发送完整对话,后续仅上传新增消息,降低长会话首 token 延迟;模型仍读取完整上下文,token 用量不因此减少。
Anthropic 宣布 Messages API 的 Message Threads 进入公开测试。客户端首次发送完整会话并建立线程,之后可引用上一条响应 ID,仅提交新增消息,以减少长对话反复上传和处理的开销。
官方明确,模型每轮仍读取完整上下文,token 计费用量不会因请求变小而自动下降。线程为尽力保存,最后一次请求后约 5 分钟过期;应用仍需自行保留消息并在失效时重放。当前文档列明该功能不符合 ZDR 与 HIPAA 资格。
参考:Anthropic