ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

Qwen-Image-2512-FP8是什么:10分钟看懂Unsloth量化版AI绘图模型,最强开源文生图轻松跑起来

Qwen-Image-2512-FP8是什么:10分钟看懂Unsloth量化版AI绘图模型,最强开源文生图轻松跑起来

Qwen-Image-2512-FP8是什么:10分钟看懂Unsloth量化版AI绘图模型,最强开源文生图轻松跑起来

Qwen-Image-2512-FP8 是 Unsloth 基于最强开源文生图模型 Qwen-Image-2512 推出的FP8 / INT8 量化版 AI 绘图模型。它用更小的显存占用,几乎不损失出图质量,让普通显卡也能跑起来顶级开源文生图。本文带你在 10 分钟内看懂它是什么、两个量化版怎么选、如何快速跑起来。

一句话说清 Qwen-Image-2512-FP8 是什么

Qwen-Image-2512-FP8仓库提供的是 Qwen-Image-2512 大模型的"压缩版"权重:

  • 基座模型:Qwen-Image-2512,Qwen-Image 系列 2025 年 12 月更新的文生图(text-to-image)基础模型,支持中英文提示词
  • 量化:由 Unsloth 团队用 torchao 将 bf16 精度的 Transformer 压缩为 FP8 和 INT8 两种版本
  • 目标:降低推理时的显存占用(reduced memory footprint),出图质量与原版高度一致

仓库采用Apache-2.0协议,可以自由使用。详细说明见 README.md。

量化是什么?为什么要压缩? 🤔

一句话:量化 = 用更少的比特数保存模型参数。

原始 Qwen-Image-2512 以 bf16(每参数 16 位)存储,体积庞大、显存吃紧。量化版做了两件事:

  1. 权重压缩:FP8 版把权重压到 8 位浮点(e4m3),INT8 版压到 8 位整数
  2. 动态激活量化:推理运行时对激活值动态量化,直接跑在低精度张量核心(low-precision tensor cores)上,速度更快、显存更省

加载量化检查点与"先加载 bf16 再实时量化"的结果逐位一致,所以压缩不偷质量。

基座模型有多强?Qwen-Image-2512 三大升级

量化版继承基座全部能力。相比 8 月版 Qwen-Image,2512 版有三项关键升级:

升级点提升效果
人物真实感增强大幅降低"AI 感",面部细节、皱纹、发丝刻画更真实
自然细节更细腻风景、水波、动物毛发等纹理渲染明显更细
文字渲染更准确图中文字排版更好,中英图文混排更可靠,甚至能生成 PPT、信息图

官方在 AI Arena 进行了10000+ 轮盲评:Qwen-Image-2512 是当前最强开源文生图模型,在闭源模型中也有竞争力。

FP8 vs INT8 量化版本怎么选?

仓库同时提供两种量化方案,核心差异如下:

对比项FP8 版INT8 版
量化方案Float8(e4m3)+ 动态激活量化INT8 逐 token 激活 + 逐通道权重
检查点大小20.5 GB(更小 ⚡)34.1 GB
保真度(同种子 LPIPS,越低越好)0.1090.029(更接近原版 ✅)
适用场景显存紧张、优先跑得快显存充足、追求最高画质

💡LPIPS是感知相似度指标:同一随机种子下,量化版与 bf16 原版出图越接近,数值越小。两个数值都很低,说明肉眼几乎看不出差别。

选择建议:显存有限 → 选 FP8;显存宽裕、想极致还原原版 → 选 INT8。

技术细节:INT8 版中部分文本流投影层(txt_in、add_q/k/v_proj 等)保留 bf16 精度,因为短提示词下这些层行数太少,不适合 INT8 矩阵乘内核。

仓库文件清单

文件说明
Qwen-Image-2512-FP8.ptFP8 量化 Transformer 检查点(20.5 GB,torchao 格式)
Qwen-Image-2512-FP8.safetensors同一 FP8 检查点的 safetensors 格式
Qwen-Image-2512-INT8.ptINT8 量化 Transformer 检查点(34.1 GB,torchao 格式)
Qwen-Image-2512-INT8.safetensors同一 INT8 检查点的 safetensors 格式(torchao 0.18 布局)
README.md官方说明、样例与使用方法
samples/量化版出图样例目录(FP8 / INT8 各 3 张)

如何快速跑起来:Qwen-Image-2512-FP8 上手三步

第一步:克隆仓库

git clone https://gitcode.com/hf_mirrors/unsloth/Qwen-Image-2512-FP8

第二步:安装最新版 diffusers

量化模型需要最新版的 diffusers 才能正确加载:

pip install -U diffusers

第三步:生成你的第一张图

把模型加载到 GPU,输入提示词即可出图:

from diffusers import DiffusionPipeline import torch pipe = DiffusionPipeline.from_pretrained( "本地仓库路径", # 指向本仓库(已配置好量化权重) torch_dtype=torch.bfloat16 ).to("cuda") image = pipe( prompt="一只可爱的树懒正在电脑上打字", width=1024, height=1024, num_inference_steps=20, # 推理步数,越多越精细 true_cfg_scale=4.0, # 引导强度 ).images[0] image.save("my_first_image.png")

常用参数速查🎛️

参数作用推荐值
width/height输出尺寸,支持 1:1、16:9、9:16 等多种比例1328×1328(1:1)
num_inference_steps推理步数20~50
true_cfg_scale提示词引导强度4.0
generator随机种子,固定后结果可复现任意整数

量化质量实测:样例图怎么看?

官方用同一提示词"cute sloth typing on a computer"(一只可爱的树懒在电脑上打字)生成对比样例:1024×1024、20 步、引导强度 4.0、种子 0~2。

  • FP8 样例:samples/fp8_1.png、samples/fp8_2.png、samples/fp8_3.png
  • INT8 样例:samples/int8_1.png、samples/int8_2.png、samples/int8_3.png

同种子下 INT8 与原版差异 LPIPS 仅0.029、FP8 为0.109(越低越好),官方准确性门禁 14/14 全部通过——量化后几乎"原画级"。

常见问题 FAQ ❓

Q1:没有 NVIDIA 显卡能跑吗?量化检查点依赖低精度张量核心,强烈建议使用 GPU(NVIDIA)运行,CPU 推理会非常慢且无法发挥量化优势。

Q2:.pt 和 .safetensors 有什么区别?两者是同一份检查点的不同容器格式,内容一致,任选其一即可。

Q3:能生成带中文的图片吗?可以。模型支持中文提示词,且 Qwen-Image-2512 的文字渲染能力专门针对图文混排做了提升,海报、信息图等场景表现很好。

Q4:显存到底省了多少?FP8 检查点本体 20.5 GB,比 INT8 的 34.1 GB 更小;推理时激活值也被动态量化,整体显存占用显著低于 bf16 原版,具体取决于你的显存配置,建议先用 20 步低分辨率试跑。

写在最后

Qwen-Image-2512-FP8 让你用更小的代价获得最强开源文生图的出图体验:显存紧张选 FP8,追求极致保真选 INT8。克隆仓库、装好最新版 diffusers,10 分钟就能画出第一张图。🚀

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进