NVIDIA 发布 Kumo Tabular 表格基础模型,主打免训练免调参
NVIDIA 在 Hugging Face 发布 Kumo Tabular,一款面向表格数据的开源基础模型,支持分类与回归,无需训练、调参和特征工程,单次前向传播即可给出预测。
核心事实
据 Hugging Face 博客文章,NVIDIA 发布了 Kumo Tabular,属于 NVIDIA Kumo Structured 模型集合,是一款面向表格数据的开源基础模型,已在 Hugging Face 上线。据该文章描述,给定一张带标签的表格,模型可在单次前向传播中预测新行的标签,无需训练、调参和特征工程,同时支持分类与回归任务。
文章称该模型仅使用人工合成数据预训练,提供 28M 至 215M 参数三种规模,通过 NVIDIA 开源库运行,并以 OpenMDW-1.1 许可证发布。文章还称其在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个基准上排名第一。上述性能与排名说法均来自发布方自述,尚未获独立验证。
背景与影响
表格数据长期是企业机器学习的核心载体,客户记录、交易、传感器日志、理赔与订单都以表格形式存在。过去二十年,这类任务主要依赖梯度提升树,效果稳定,但每个新问题都需要重新收集标签、构造特征、搜索超参数并重新训练。
文章将 Kumo Tabular 归入「表格基础模型」思路:借鉴大语言模型的上下文学习,模型在数百万张表格上预训练后,可把带标签的表格当作上下文,直接预测新行标签。文章称其采用列注意力、行注意力与上下文注意力结构,并引入随键数量对数增长的长度感知注意力温度,以在表格变长变宽时保持注意力锐度。
限制与来源
文章列出的限制包括:模型仅支持数值列与类别列,文本、图像或时间戳需通过内置预处理配方转为特征;单次前向传播最多覆盖 10 个类别,更多类别需借助纠错输出码扩展;当表格远超训练范围,或查询行与上下文行分布不同时,准确率可能下降。文章建议在部署前用自有留出数据验证准确率与校准情况。
本文信息全部来自 Hugging Face 博客文章,未做独立测试。模型的具体功能、许可证条款、可用地区与使用条件请以 NVIDIA 官网及 Hugging Face 模型页当前信息为准。