AB
AiBoss
News

哥伦比亚大学与CertiK推出TensorLean,在PTX层形式化验证GPU内核

哥伦比亚大学与CertiK的研究团队提出TensorLean,一个基于Lean的GPU内核形式化验证框架,在PTX层证明编译后的内核符合张量级数学规格。团队检查了149个内核实例,其中83个被证明正确,其余66个暴露出38个正确性缺陷。

核心事实

据MarkTechPost报道,哥伦比亚大学与CertiK的研究团队提出TensorLean,一个面向GPU内核的形式化验证框架,验证发生在PTX层。该工具基于Lean构建,目标是从未经修改的源代码出发,证明编译后的内核与开发者用Lean写下的张量级数学规格一致。据该报道,团队共检查了149个内核实例,覆盖FlashAttention-2、-3、-4的全部内核以及DeepGEMM等项目,其中83个被证明正确,其余66个指向38个正确性缺陷。

背景与影响

按报道描述,TensorLean验证四类性质:无数据竞争、终止性、输出在容差范围内正确,以及不触碰规格之外的其它内存。规格沿用PyTorch的算子命名,并借助Lean的Mathlib;验证流程包括编译到PTX、构建happens-before图检查竞争与终止、符号执行,以及用Lean内核、Z3和cvc5完成证明。报道称,缺陷分布在FlashAttention(23个)、Liger Kernel(7个)、TileOPs(3个)、TileLang(2个)、DeepGEMM(2个)和Triton(1个),其中一例是FlashAttention-4中的数据竞争,据称在17,760次测试运行中均未出现。与配置覆盖相关的对比中,报道称TensorLean使用符号参数而非针对单一具体配置展开循环。

限制与来源

上述数量、缺陷分类与对比结论均来自该报道及项目公开材料,尚未获独立复现或官方确认。报道同时注明代码尚未发布,暂不提供托管API,发布后可在16核工作站上运行;具体可用性、支持范围与使用条件应以项目官网和代码仓库的当前信息为准。本文不构成任何投资或采购建议。