【免费下载链接】InternVL
InternVL 是目前最大的开源视觉/视觉-语言基础模型(14B 参数),核心是把 ViT 扩展到6B 参数并与 LLM 对齐,在视觉感知、跨模态检索、多模态对话等任务上取得 32 项 SOTA 成绩。这个仓库(OpenGVLab/InternVL)就是 InternVL 官方 PyTorch 模型权重的下载源,同时还附带了常用多模态评测基准数据集。下面带你一文看懂它的架构、文件结构和快速上手方法。
InternVL 是什么?6B 视觉基础模型 + 14B 多模态模型
InternVL 的核心思路可以拆成两部分:
| 组件 | 参数量 | 作用 |
|---|---|---|
| InternViT-6B | 6B | 放大版视觉编码器(ViT),输出高质量视觉特征 |
| LLM(如 LLaMA-2 7B) | 约 7B | 语言模型,负责理解与生成 |
| InternVL(组合后) | 14B | 对齐后的视觉-语言基础模型,支持对话、问答等通用任务 |
官方在 README.md 中介绍:InternVL 将 ViT 扩展到 6B 参数并与 LLM 对齐,是当时最大的开源视觉/视觉-语言基础模型。对应论文题为InternVL: Scaling up Vision Foundation Models and Aligning for Generic Visual-Linguistic Tasks(引用格式见 README.md#L52-L63)。
仓库结构与核心文件:模型权重在哪?
这个仓库以"模型权重 + 评测数据"为主,没有训练代码。主要文件分三类:
1️⃣ 预训练模型权重(.pth 文件)
权重清单见 README.md#L23-L28,仓库内可直接定位到:
| 权重文件 | 大小 | 说明 |
|---|---|---|
| intern_vit_6b_224px.pth | 12 GB | InternViT-6B,224px 输入 |
| intern_vit_6b_224px_head.pth | — | ImageNet 线性探针分类头 |
| internvl_c_13b_224px.pth | 25.4 GB | 对比学习版本权重 |
| intern_vit_6b_448px_v1_0.pth、v1_2、v1_5 | — | 448px 高分辨率版本(v1 系列) |
| intern_vit_6b_448px_v2_5.pth | — | v2 系列(支持动态分辨率的多模态版本) |
2️⃣ 语义分割微调权重(ADE20K)
仓库还提供了 ADE20K 分割任务的完整微调产物,文件名即配置摘要,例如:
- 线性探针:linear_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5_1of1.pth
- 头部调优(UperNet + 冻结 backbone):upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5_frozen.pth
- 全量微调(UperNet):upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5.pth
对应的训练日志(如 upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5.log)也一并收录,方便复现时对照训练曲线。
3️⃣ 多模态评测基准数据集(.jsonl)
这些文件配合 InternVL 做视觉问答(VQA)评测,每条记录包含image、question、answer等字段:
- seed.jsonl:SEED-Bench 选择题(实例计数、场景理解等),配套图片包 SEED-Bench-image.zip
- textvqa_val.jsonl / textvqa_val_llava.jsonl:TextVQA 文字识别问答
- ai2d_test.jsonl / ai2d_test_vlmevalkit.jsonl:AI2D 科学图解理解
- infographicsvqa_val.jsonl:信息图表问答
- scienceqa_test_img.jsonl:ScienceQA 科学问答
- llava-mm-vet.jsonl、mmhal-bench_with_image.jsonl:幻觉检测与开放问答
💡 小提示:仓库的 .gitattributes 配置了 Git LFS 规则,所有
*.pth、*.zip等大文件都通过 LFS 存储。直接 clone 后如看到权重文件只有几百字节,说明还没拉取 LFS 真实内容。
如何快速下载并使用 InternVL 权重:完整步骤
拿到权重只需三步:
第一步:clone 仓库
git clone https://gitcode.com/OpenGVLab/InternVL cd InternVL第二步:启用并拉取 Git LFS 大文件
git lfs install git lfs pull第三步:加载权重
以 InternViT-6B 为例,用 PyTorch 直接加载:
import torch state_dict = torch.load("intern_vit_6b_224px.pth", map_location="cpu") # 将 state_dict 加载进你的 InternViT-6B 模型结构即可如果你使用的是 transformers 生态,InternVL 系列权重通常也提供 Hugging Face 格式,可搜索 "OpenGVLab InternVL" 直接from_pretrained加载。
基准性能速览:InternVL 到底强在哪?
ImageNet 系列线性探针分类(README.md#L30-L34):
| 指标 | IN-1K | IN-ReaL | IN-V2 | IN-A | IN-R | IN-Sketch |
|---|---|---|---|---|---|---|
| InternViT-6B-224px | 88.2 | 90.4 | 79.9 | 77.5 | 89.8 | 69.1 |
ADE20K 语义分割(README.md#L36-L47):
| 训练策略 | 头部 | mIoU |
|---|---|---|
| few-shot(仅 1/16 数据) | Linear | 46.5 |
| linear probing(冻结) | Linear | 47.2 |
| head tuning(冻结 + UperNet) | UperNet | 54.9 |
| full tuning | UperNet | 58.9 |
可以看到,InternViT-6B 仅用 1/16 的数据做线性探针就能拿到 46.5 mIoU,说明其视觉表征泛化能力非常强——这也是"大模型做 few-shot 下游任务"的典型优势。
如何选择合适的模型版本?
- 只要视觉特征、做分类/分割等下游任务→ 选
intern_vit_6b_224px.pth(12 GB,最轻量) - 需要高分辨率 / 多模态对话(VQA)→ 选 448px 系列,推荐最新的 intern_vit_6b_448px_v2_5.pth,v2 支持动态分辨率,小图大图都能吃
- 做对比学习或检索任务→ 选
internvl_c_13b_224px.pth(注意 25.4 GB,显存要够) - 复现分割实验→ 直接下载对应 ADE20K 检查点并参考同名
.log验证结果
许可证与引用
项目采用MIT License(见 README.md#L49-L50),可放心用于商业与科研。若用于研究,建议按 README.md#L56-L63 中的 BibTeX 格式引用论文。
总结:InternVL 用"6B ViT + 7B LLM"的组合拳打出了 14B 级别开源视觉-语言模型的最佳成绩。这个仓库是获取其全部官方权重与评测数据的最佳入口——clone 后记得执行git lfs pull,就能开始你的多模态之旅了 🚀
【免费下载链接】InternVL
相关推荐
InternVL2_5-Pretrain-Models 完全指南:一文看懂 InternVL 2.5 开源多模态大模型预训练权重
InternVL2_5 Pretrain Models 完全指南:一文看懂 InternVL 2.5 开源多模态大模型预训练权重 什么是 InternVL 2.
一文读懂 InternVL-14B-224px:14B 开源多模态大模型的分类、检索与图像描述全解
一文读懂 InternVL 14B 224px:14B 开源多模态大模型的分类、检索与图像描述全解 📌 InternVL 14B 224px 是由 OpenG
InternVL-14B-Flickr30K-FT-364px 架构全解:6B 视觉编码器如何驱动 14B 语言模型
InternVL 14B Flickr30K FT 364px 架构全解:6B 视觉编码器如何驱动 14B 语言模型 InternVL 14B Flickr30
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考