News
TensorRT-LLM 提出模型弃用 RFC,涉及四款模型
NVIDIA TensorRT-LLM 仓库出现一份 RFC,计划弃用 llama3.3-70b、llama4-scout、kimi-k2-thinking 与 deepseek-r1 四款模型及其部署指南,理由是使用率偏低,并开放两周反馈期。
核心事实
据 GitHub 上 NVIDIA/TensorRT-LLM 仓库的 issue #19301 显示,一份标题为「[RFC]: Upcoming Model Deprecation」的提案已被提交。提案称,为更准确地掌握经过测试且获得良好支持的模型范围,TensorRT-LLM 团队计划弃用使用率偏低的模型。被列入弃用计划的模型包括 llama3.3-70b、llama4-scout、kimi-k2-thinking 和 deepseek-r1,同时涉及这些模型对应的部署指南。该 issue 状态为 Open,并带有 RFC 标签。
背景与影响
按照提案描述,弃用意味着相关模型将不再针对新变更进行主动测试,针对这些模型提出的修复请求将按个案评估。提案同时给出了反馈期,时长为两周,并邀请仍在新版本 TensorRT-LLM 中使用上述模型、且依赖其质量维持的用户在 issue 下留言。该 issue 列出了若干指派人员,但未给出具体的弃用生效时间表。
限制与来源
需要说明的是,上述内容来自一份公开的 RFC 提案,属于计划性讨论,尚未获官方确认最终执行,具体范围与时间安排仍可能调整。本文未获得任何实测数据、性能数字或版本兼容性结论,也未涉及定价、地区可用性或许可证信息。相关模型与部署指南的支持状态,请以 TensorRT-LLM 官方仓库与官方文档的当前信息为准。