《博主简介》
小伙伴们好,我是阿旭。
专注于计算机视觉领域,包括目标检测、图像分类、图像分割和目标跟踪等项目开发,提供模型对比实验、答疑辅导等。
《------往期经典推荐------》
一、AI应用软件开发实战专栏【链接】
| 项目名称 | 项目名称 |
|---|---|
| 1.【人脸识别与管理系统开发】 | 2.【车牌识别与自动收费管理系统开发】 |
| 3.【手势识别系统开发】 | 4.【人脸面部活体检测系统开发】 |
| 5.【图片风格快速迁移软件开发】 | 6.【人脸表表情识别系统】 |
| 7.【YOLOv8多目标识别与自动标注软件开发】 | 8.【基于深度学习的行人跌倒检测系统】 |
| 9.【基于深度学习的PCB板缺陷检测系统】 | 10.【基于深度学习的生活垃圾分类目标检测系统】 |
| 11.【基于深度学习的安全帽目标检测系统】 | 12.【基于深度学习的120种犬类检测与识别系统】 |
| 13.【基于深度学习的路面坑洞检测系统】 | 14.【基于深度学习的火焰烟雾检测系统】 |
| 15.【基于深度学习的钢材表面缺陷检测系统】 | 16.【基于深度学习的舰船目标分类检测系统】 |
| 17.【基于深度学习的西红柿成熟度检测系统】 | 18.【基于深度学习的血细胞检测与计数系统】 |
| 19.【基于深度学习的吸烟/抽烟行为检测系统】 | 20.【基于深度学习的水稻害虫检测与识别系统】 |
| 21.【基于深度学习的高精度车辆行人检测与计数系统】 | 22.【基于深度学习的路面标志线检测与识别系统】 |
| 23.【基于深度学习的智能小麦害虫检测识别系统】 | 24.【基于深度学习的智能玉米害虫检测识别系统】 |
| 25.【基于深度学习的200种鸟类智能检测与识别系统】 | 26.【基于深度学习的45种交通标志智能检测与识别系统】 |
| 27.【基于深度学习的人脸面部表情识别系统】 | 28.【基于深度学习的苹果叶片病害智能诊断系统】 |
| 29.【基于深度学习的智能肺炎诊断系统】 | 30.【基于深度学习的葡萄簇目标检测系统】 |
| 31.【基于深度学习的100种中草药智能识别系统】 | 32.【基于深度学习的102种花卉智能识别系统】 |
| 33.【基于深度学习的100种蝴蝶智能识别系统】 | 34.【基于深度学习的水稻叶片病害智能诊断系统】 |
| 35.【基于与ByteTrack的车辆行人多目标检测与追踪系统】 | 36.【基于深度学习的智能草莓病害检测与分割系统】 |
| 37.【基于深度学习的复杂场景下船舶目标检测系统】 | 38.【基于深度学习的农作物幼苗与杂草检测系统】 |
| 39.【基于深度学习的智能道路裂缝检测与分析系统】 | 40.【基于深度学习的葡萄病害智能诊断与防治系统】 |
| 41.【基于深度学习的遥感地理空间物体检测系统】 | 42.【基于深度学习的无人机视角地面物体检测系统】 |
| 43.【基于深度学习的木薯病害智能诊断与防治系统】 | 44.【基于深度学习的野外火焰烟雾检测系统】 |
| 45.【基于深度学习的脑肿瘤智能检测系统】 | 46.【基于深度学习的玉米叶片病害智能诊断与防治系统】 |
| 47.【基于深度学习的橙子病害智能诊断与防治系统】 | 48.【基于深度学习的车辆检测追踪与流量计数系统】 |
| 49.【基于深度学习的行人检测追踪与双向流量计数系统】 | 50.【基于深度学习的反光衣检测与预警系统】 |
| 51.【基于深度学习的危险区域人员闯入检测与报警系统】 | 52.【基于深度学习的高密度人脸智能检测与统计系统】 |
| 53.【基于深度学习的CT扫描图像肾结石智能检测系统】 | 54.【基于深度学习的水果智能检测系统】 |
| 55.【基于深度学习的水果质量好坏智能检测系统】 | 56.【基于深度学习的蔬菜目标检测与识别系统】 |
| 57.【基于深度学习的非机动车驾驶员头盔检测系统】 | 58.【太基于深度学习的阳能电池板检测与分析系统】 |
| 59.【基于深度学习的工业螺栓螺母检测】 | 60.【基于深度学习的金属焊缝缺陷检测系统】 |
| 61.【基于深度学习的链条缺陷检测与识别系统】 | 62.【基于深度学习的交通信号灯检测识别】 |
| 63.【基于深度学习的草莓成熟度检测与识别系统】 | 64.【基于深度学习的水下海生物检测识别系统】 |
| 65.【基于深度学习的道路交通事故检测识别系统】 | 66.【基于深度学习的安检X光危险品检测与识别系统】 |
| 67.【基于深度学习的农作物类别检测与识别系统】 | 68.【基于深度学习的危险驾驶行为检测识别系统】 |
| 69.【基于深度学习的维修工具检测识别系统】 | 70.【基于深度学习的维修工具检测识别系统】 |
| 71.【基于深度学习的建筑墙面损伤检测系统】 | 72.【基于深度学习的煤矿传送带异物检测系统】 |
| 73.【基于深度学习的老鼠智能检测系统】 | 74.【基于深度学习的水面垃圾智能检测识别系统】 |
| 75.【基于深度学习的遥感视角船只智能检测系统】 | 76.【基于深度学习的胃肠道息肉智能检测分割与诊断系统】 |
| 77.【基于深度学习的心脏超声图像间隔壁检测分割与分析系统】 | 78.【基于深度学习的心脏超声图像间隔壁检测分割与分析系统】 |
| 79.【基于深度学习的果园苹果检测与计数系统】 | 80.【基于深度学习的半导体芯片缺陷检测系统】 |
| 81.【基于深度学习的糖尿病视网膜病变检测与诊断系统】 | 82.【基于深度学习的运动鞋品牌检测与识别系统】 |
| 83.【基于深度学习的苹果叶片病害检测识别系统】 | 84.【基于深度学习的医学X光骨折检测与语音提示系统】 |
| 85.【基于深度学习的遥感视角农田检测与分割系统】 | 86.【基于深度学习的运动品牌LOGO检测与识别系统】 |
| 87.【基于深度学习的电瓶车进电梯检测与语音提示系统】 | 88.【基于深度学习的遥感视角地面房屋建筑检测分割与分析系统】 |
| 89.【基于深度学习的医学CT图像肺结节智能检测与语音提示系统】 | 90.【基于深度学习的舌苔舌象检测识别与诊断系统】 |
| 91.【基于深度学习的蛀牙智能检测与语音提示系统】 | 92.【基于深度学习的皮肤癌智能检测与语音提示系统】 |
| 93.【基于深度学习的工业压力表智能检测与读数系统】 | 94.【基于深度学习的CT扫描图像肝脏肿瘤智能检测与分析系统】 |
| 95.【基于深度学习的CT扫描图像脑肿瘤智能检测与分析系统】 | 96.【基于深度学习的甲状腺结节智能检测分割与诊断系统】 |
| 97.【基于深度学习的车载视角路面病害检测系统】 | 98.【基于深度学习的宫腔镜病变智能检测与语音提示系统】 |
| 99.【基于深度学习的人群密集检测统计分析与报警系统】 | 100.【基于深度学习的路面积水智能检测分割与分析系统】 |
| 101.【基于深度学习的钢丝绳缺陷检测与语音提示系统】 | 102.【基于深度学习的无人机视角河道水面垃圾检测系统】 |
| 103.【基于深度学习的停车场车位智能检测识别系统】 | 104.【基于深度学习的无人机视角野外搜救人员检测与语音提示系统】 |
| 105.【基于深度学习的无人机视角路面病害检测识别系统】 | 106.【基于深度学习的无人机红外视角海上搜救人员检测与语音提示系统】 |
| 107.【基于深度学习的交警手势识别系统】 | 108.【基于深度学习的红外图像光伏板热斑缺陷检测与语音提示系统】 |
| 109.【基于深度学习的风力机缺陷检测与语音提示系统】 | 110.【基于深度学习的茶叶病害智能检测识别系统】 |
| 111.【基于深度学习的铁轨部件缺陷检测与语音提示系统】 | 112.【基于深度学习的无人机视角车辆检测系统】 |
二、机器学习实战专栏【链接】,已更新31期,欢迎关注,持续更新中~~
三、深度学习【Pytorch】专栏【链接】
四、【Stable Diffusion绘画系列】专栏【链接】
五、YOLOv8改进专栏【链接】,持续更新中~~
六、YOLO性能对比专栏【链接】,持续更新中~
《------正文------》
目录
- 一、研究背景
- 二、技术方案
- 三、实验结果
- 四、应用场景
- 五、结论
论文地址:https://arxiv.org/pdf/2610.09450
代码地址:https://github.com/speridlabs/iris-3b
今天几乎每个文生图模型都在"潜空间"里画画:先用 VAE 把图压成小格子,扩散模型在格子里画,再解码回像素。VAE 是有损的——它可能糊掉细纹理。Iris-3B反其道而行:一个 30 亿参数(3B)的开源模型,完全不用 VAE,直接输出像素。而且它顺便做了一个"泼冷水"的实验,很值得一读。
一、研究背景
潜空间扩散(Latent Diffusion)已成为高分辨率图像生成的主流:在预训练 VAE 的压缩空间里跑生成过程,训练和采样都更便宜。但代价是——VAE 是单独训练、有损重建的,它的误差会和生成器的误差叠加,且二者无法联合优化;任何被 codec 丢掉的细节,生成器都再也够不着。
近年来直接用像素空间生成已经能追平潜空间模型,但大家普遍假设"像素空间对需要精细空间细节的下游任务(深度估计、图像修复)更有利"。Iris-3B 这篇论文,就是来正经检验这个假设的。
二、技术方案
Sperid Labs 开源的Iris-3B(Apache 2.0 可商用),是一个3B 参数的像素空间文生图 Transformer。架构是扩散 Transformer(DiT):8 个双流块 + 16 个单流块,最后接一个 4 块的PiT 像素头,把每个 16×16 的小块直接还原成像素。文本编码器用冻结的 Qwen3-VL-4B。训练走 256→512→1024 的分辨率课程,总共约 66.5 万步。
论文走的是"双路线":① 从零预训练 Iris-3B;② 把预训练的潜空间模型 FLUX.2 Klein base(4B)转换到像素空间。两条路都做下游微调,方便公平对比。
三、实验结果
① 文生图质量:3B 追平 20B
官方在 1024² 下用各基准自带评测器(不做提示词改写)打分:
| 模型 | 参数量 | GenEval↑ | DPG↑ | OneIG↑ | 许可 |
|---|---|---|---|---|---|
| FLUX.1-dev | 12B | 0.66 | 83.8 | 0.434 | 非商用 |
| Qwen-Image | 20B | 0.87 | 88.3 | 0.539 | — |
| Iris-3B | 3B | 0.798 | 86.52 | 0.540 | Apache 2.0 |
3B 的 Iris-3B 在 OneIG 上和 20B 的 Qwen-Image 几乎持平(0.540 vs 0.539),prompt 跟随(GenEval / DPG)也相当能打——证明像素空间预训练确实能放大到 3B 并达到可用质量。
② 诚实的"反结论":像素空间并未带来下游优势
这是论文最亮眼的部分。团队把 Iris-3B 与潜空间模型 FLUX.2 Klein 用同一套"直接回归"配方微调,做单目深度估计和 4× 图像修复:
| 下游任务 | 像素空间(Iris-3B) vs 潜空间(FLUX.2 Klein) |
|---|---|
| 单目深度估计(平均 AbsRel,越低越好) | Iris 0.071 vs 潜空间 0.072,基本持平 |
| 4× 图像修复(SSIM) | 0.504 vs0.557(潜空间略优) |
| 图像超分(LPIPS) | 基本持平 |
作者直言:“使用像素空间生成先验并未带来显著提升。”也就是说,绕开 VAE 的直觉好处,在这套实验里没被证实。
深度估计示例:
图像超分示例:
四、应用场景
- 开源可商用:Apache 2.0,约 12GB 权重,单张消费级显卡可跑。
- 一模型多能:同一像素先验还能微调做深度估计、图像修复 / 超分。
- 研究价值:提供了从零训练 + 潜空间转换两条路线的完整配方与失败案例,是后续研究的很好起点。
五、结论
Iris-3B 的价值不在于"像素空间一定更好"(论文恰恰否定了这点),而在于它用开源权重 + 训练代码,把"像素空间到底有没有优势"这个悬而未决的问题,认真做了一个对照实验,并诚实公布了负面结果。对社区来说,这种"把失败也讲清楚"的工作,往往比又一篇刷榜更有长期价值。
论文与源码可自行获取: