• 人工智能
• 大模型
• 基础模型
• 媒体生成
• 模型量化
• Qwen

Qwen-Image-2.1-FP8是由 Unsloth 发布的 Qwen-Image-2.1 AI 绘图模型的FP8 / INT8 量化版本，把原本 14.23 GB 的 bf16 主干压缩到7.12 GB，显存需求近乎减半。这意味着原本跑不动 7B 大模型的低显存显卡，现在也能流畅生成和编辑图片，甚至可以只用6GB 显存通过 offloading 运行。

适合人群：想在本地跑 AI 绘图的开发者、显存不足的普通用户、AI 量化技术爱好者 💡

什么是量化？为什么显存能减半？

简单说，量化就是把模型参数从"高精度数字"（bf16，每个参数 2 字节）转换成"低精度数字"（FP8/INT8，每个参数 1 字节），体积直接砍半，速度几乎不受影响。

量化前后的文件大小对比（来自 README.md）：

↑ FP8 量化模型生成的示例图，细节与光影依然表现出色

生成效果如何？看这些实拍样张

量化模型最让人担心的是画质损失，但本项目用LPIPS 指标（越低越接近原版）实测对比：INT8 为 0.064，FP8 为 0.112，说明 INT8 版本几乎与 bf16 原版无差别。

↑ 低显存量化模型依然能生成电影感十足的写实大图

FP8 和 INT8 怎么选？

🎯一句话结论：优先选 INT8。

• INT8（默认推荐方案）：画质与 bf16 原版差距最小（LPIPS 0.064），适合对画质有要求的场景
• FP8：文件略小，速度稍快，适合追求效率的场景
• 所有文件均采用safetensors格式，加载时不执行任何代码，安全性更高

↑ INT8 样张：光影与材质细节保留完整

低显存显卡如何快速上手？3 步搞定

第 1 步：安装依赖

pip install torch>=2.4.0 pip install transformers>=5.17 pip install git+https://github.com/huggingface/diffusers pip install accelerate pillow

⚠️ 注意：Qwen-Image-2.1 的支持晚于 diffusers 0.40 版本，需要diffusers 最新主干版本。

第 2 步：加载量化模型并生成图片

import torch from diffusers import QwenImage21Pipeline pipe = QwenImage21Pipeline.from_pretrained( "Qwen/Qwen-Image-2.1", torch_dtype=torch.bfloat16 ).to("cuda") image = pipe( prompt="A neon shop sign that reads \"QWEN IMAGE 2.1\", rainy night, reflections on wet pavement", width=2048, height=2048, num_inference_steps=40, ).images[0] image.save("t2i_example.png")

第 3 步：开启显存优化，6GB 显卡也能跑

显存只有 6GB？加一行enable_model_cpu_offload()即可，模型会自动在 CPU 和 GPU 之间搬运权重：

pipe = QwenImage21Pipeline.from_pretrained( "Qwen/Qwen-Image-2.1", torch_dtype=torch.bfloat16 ) pipe.enable_model_cpu_offload() # 速度约为直跑的 1/2，但 6GB 显存可用

💡 在Unsloth Desktop中则完全免手动配置：选择 Qwen-Image-2.1 并勾选 INT8 或 FP8 精度即可自动使用本项目的量化权重。

仓库文件一览

完整说明见 README.md。

常见问题

Q1：6GB 显存真的能跑吗？✅ 可以。配合 Dynamic FP8 和 CPU offloading，最低 6GB 显存即可运行，速度约为全速的一半。

Q2：量化会明显掉画质吗？损失很小，LPIPS 对比显示 INT8 版本（0.064）肉眼几乎无法与 bf16 原版区分。

Q3：能生成透明背景图片吗？可以。Qwen-Image-2.1 原生支持 RGBA 透明图生成与编辑，直接按官方提示词格式描述透明背景即可。

Q4：支持哪些图片比例？1:1、4:3、3:4、3:2、2:3、16:9、9:16 等常用比例均已适配，可直接指定 width/height。

总结

Qwen-Image-2.1-FP8 用一套简单的量化方案，让7B 级 AI 绘图大模型走进了低显存显卡的世界：显存减半、画质几乎无损、6GB 起步即可运行。无论你是想本地搭建 AI 绘图工作流，还是研究大模型量化技术，这个项目都是一个高完成度的起点 🚀

• 人工智能
• 大模型
• 基础模型
• 媒体生成
• 模型量化
• Qwen