NVIDIA 介绍 FLUX 3 Image Klein 在 Blackwell GPU 上的推理加速方案
NVIDIA 开发者博客发布教程，介绍如何用 TensorRT LLM VisualGen 在 Blackwell GPU 上加速 FLUX 3 Image Klein 图像生成与编辑，涵盖 NVFP4 量化、注意力优化、步缓存与多 GPU 并行，并给出官方报告的延迟对比数据。
NVIDIA 发布 FLUX 3 Image Klein 推理加速教程
NVIDIA 开发者博客发布技术教程，介绍如何在 NVIDIA Blackwell GPU 上通过 TensorRT LLM VisualGen 运行时加速 Black Forest Labs（BFL）的 FLUX 3 Image Klein 图像生成与编辑模型。据文章介绍，该模型结合 Qwen3-VL-4B-Instruct 文本条件模块、扩散 Transformer 与自编码器，提供 Base 与蒸馏两个检查点，并在 NVIDIA GB200 NVL72 上训练。VisualGen 在发布时支持 BF16、FP8 与 NVFP4 三种变体。
官方报告的优化效果
文章称，在单块 B200 GPU、2048×2048 分辨率下，NVFP4 相比 BF16 的文本生成图像（T2I）最高快 1.62 倍、图像生成图像（I2I）最高快 1.58 倍；叠加多项优化后，Base 模型的 T2I 最高快 3.46 倍、I2I 最高快 4.45 倍。注意力方面，cuDNN FP8 与 VC-Attention FP8 均带来约 1.1 至 1.2 倍加速；Sol-Attention 稀疏注意力在 16 个初始稠密步下为 Base 带来 1.24 倍去噪加解码加速。Cache-DiT 步缓存在 2048×2048 下使 Base 延迟接近减半，报告加速 1.94 倍。多 GPU 方面，在 DGX B200 上从 1 块扩展到 8 块 GPU，Base 的 T2I 中位延迟由 14.90 秒降至 3.00 秒，蒸馏模型由 2.73 秒降至 1.08 秒。
限制与来源
上述数字均来自 NVIDIA 官方博客的测试环境，采用固定随机种子与指定步数，实际表现会随硬件、配置与工作负载变化，不应视为通用性能承诺。文章同时给出 LPIPS 感知差异分数，说明部分加速伴随输出质量变化，需按场景权衡。教程提供 YAML 配置与部署步骤，具体支持范围、模型可用性与许可条款请以 NVIDIA 及 BFL 官网当前信息为准。来源：NVIDIA 开发者博客，2026 年 11 月 6 日。