【免费下载链接】Macaron-V1-Tall
Macaron-V1-Tall 是 MindLab Research 发布的 Mixture of LoRA（MoL，LoRA 混合）大语言模型，基于 Qwen3.6-35B-A3B 底座构建，通过 4 个 LoRA 专家（Chat、Agent、Coding、GenUI）和 L0 路由器实现"一人分饰多角"。本文将用通俗的方式带你完整看懂这套架构：每个专家负责什么、L0 如何为请求挑选专家，以及它最终跑出什么成绩。
Macaron-V1-Tall 是什么？
一句话定位：一个面向个人智能的 MoL 模型，主打个人助理（personal agent）、工具调用（tool use）、仓库级编程和代码原生生成式 UI（Generative UI / UI4A）。
它的底座是 Qwen3.6-35B-A3B，一个 MoE（Mixture of Experts）架构的模型。可以从 config.json 中看到关键参数：
| 配置项 | 数值 | 通俗理解 |
|---|---|---|
| 层数 | 40 层 | 模型"思考的深度" |
| 专家数量 | 256 个 | 每层内置 256 个小专家 |
| 每 token 激活专家 | 8 个 | 每个字只叫醒 8 个专家，省算力 |
| 上下文长度 | 262K（262144） | 能记住超长的对话与代码 |
| 精度 | BF16 | 兼顾速度与数值稳定 |
Macaron 的巧妙之处在于：不重新训练整个大模型，而是在底座之上训练 4 个"小补丁"（LoRA 适配器），运行时由 L0 动态挑选最合适的专家上岗。
MoL（Mixture of LoRA）架构：一个"总部 + 四个部门"
把 Macaron-V1-Tall 想象成一家公司 🏢：
- 总部大楼（底座模型）：Qwen3.6-35B-A3B，提供通用语言能力，所有部门共享；
- 四个专业部门（LoRA 专家）：各自只训练自己领域的"增量参数"，互不干扰；
- 总机接线员（L0 路由器）：每来一个新请求，先判断该转给哪个部门。
LoRA（Low-Rank Adaptation）是一种轻量微调技术：它不改动底座权重，只训练一小撮低秩矩阵。这意味着每个专家都很"便宜"（Tall 的每个适配器约 37.76 亿个存储值），且可以在同一底座上热插拔。
四个适配器统一存放在loras/目录下，训练超参数一致：
| 参数 | 值 |
|---|---|
| LoRA 秩（r） | 64 |
| LoRA alpha（α） | 128 |
| dropout | 0 |
| 覆盖模块 | 注意力投影（q/k/v/o_proj、in_proj_*等）+ 专家参数experts.gate_up_proj、experts.down_proj |
| 排除模块 | gate、lm_head、shared_expert_gate |
每个专家的具体配置可以打开对应文件查看，例如 loras/L0/adapter_config.json、loras/L2/adapter_config.json。
四大 LoRA 专家详解
🗨️ L0 Chat —— 对话主理人 + "总机接线员"
| 项目 | 内容 |
|---|---|
| 位置 | loras/L0/ |
| 职责 | 日常对话与指令遵循的骨干，同时也是路由入口 |
L0 是双重身份选手：既是最基础的聊天专家，又兼任路由器——每个新的用户请求先由它做"约束解码"（只生成 24 个 token 的路由决策），把任务派给最合适的专家。你可以理解为：它既是前台，也是分诊台。
🤖 L1 Agent —— 个人助理与工具专家
| 项目 | 内容 |
|---|---|
| 位置 | loras/L1/ |
| 职责 | 个人生活 Agent 任务、重度工具调用、长程规划、动态工作流 |
当你让模型"帮我订好明天的会议室并同步给团队"这类需要多步规划 + 调用外部工具的任务时，L0 会把请求转给 L1。L1 专精"观察—决策—再观察"的长链路工作流，是 4 个专家中路由准确率相对最低的一个（95.1%），因为 Agent 意图边界最模糊。
💻 L2 Coding —— 编程与终端专家
| 项目 | 内容 |
|---|---|
| 位置 | loras/L2/ |
| 职责 | 代码理解、SWE 任务、终端使用、仓库级开发工作流 |
修 bug、读懂整个仓库、在终端里执行命令并验证结果——这些都归 L2 管。值得注意的是，L2 在发布检查点中使用 F32（全精度）存储，其余专家为 BF16，可见团队对编码任务数值精度的重视。相关成绩：SWE-bench Verified 75.4、TerminalBench 2.1 56.2，均优于底座。
🎨 L3 GenUI —— 生成式 UI 专家
| 项目 | 内容 |
|---|---|
| 位置 | loras/L3/ |
| 职责 | UI4A 渲染与 UI 驱动操作 |
"帮我做一个追踪每周健身目标的小面板"——L3 会直接生成可渲染的 UI 产物（TSX），而不只是给你一段文字描述。它是 4 个专家中路由准确率最高的（100%），因为"要界面"的意图通常非常明确。这也是 MoL 提升最猛的一项：UI4A-Bench 从底座的 33.9 跃升至59.3。
L0 路由如何工作：请求的三步旅程 ⏱️
一条新消息进入系统后的完整流程：
- Route（路由）：L0 做约束解码，约 24 个 token，平均 0.20s；
- Answer（回答）：被选中的专家接管生成，平均 1.24s；推理和工具交互停留在同一专家内，不来回切换；
- Summary（总结）：任务完成后生成不超过 192 token 的简明摘要，用于跨专家共享成果，平均 0.32s。
| 阶段 | 平均耗时 | 占整轮比例 |
|---|---|---|
| Route（L0 路由） | 0.20 s | 11% |
| Answer（专家生成） | 1.24 s | 70% |
| Summary（摘要交接） | 0.32 s | 19% |
| 合计 | 1.76 s | 100% |
路由本身只引入约 30% 的开销份额，而整套循环 1.76s 的端到端延迟比同家族的 748B 大模型 Macaron-V1-Venti（4.68s）低约 2.7 倍——这就是"小底座 + 专家路由"的性价比所在。在 6,448 条样本的测试轨迹上，Tall 的路由准确率达99.04%。
实测成绩：MoL 架构带来了什么提升？
Macaron-V1-Tall 与其底座 Qwen3.6-35B-A3B 在 7 项基准上的对比（均为 0–100 归一化分数，越高越好）：
| 基准 | Macaron-V1-Tall | Qwen3.6-35B-A3B | 提升 |
|---|---|---|---|
| Macaron ChatBench | 54.9 | 48.0 | +6.9 |
| Macaron LivingBench | 48.4 | 47.1 | +1.3 |
| PinchBench | 86.2 | 82.5 | +3.7 |
| ClawGym | 64.0 | 58.6 | +5.4 |
| SWE-bench Verified | 75.4 | 73.4 | +2.0 |
| TerminalBench 2.1 | 56.2 | 52.5 | +3.7 |
| UI4A-Bench | 59.3 | 33.9 | +25.4 |
7 项全面领先底座，其中生成式 UI 项提升最显著——正好对应 L3 GenUI 专家的专项训练效果。⚠️ 需要说明：这是端到端系统对比（含适配器、路由与推理框架差异），并非参数对齐的消融实验，各分项收益无法单独归因。
仓库关键文件速查 📁
| 文件 | 作用 |
|---|---|
| config.json | 底座模型结构：40 层、256 专家、262K 上下文 |
| loras/L0/ ~ loras/L3/ | 四个 LoRA 专家（含 adapter_config.json 配置） |
| model.safetensors.index.json | 底座 26 个分片权重的索引 |
| generation_config.json | 默认采样参数（top_p 0.95、top_k 20 等） |
| tokenizer.json | 词表与分词器 |
如需在本地体验，可克隆仓库：
git clone https://gitcode.com/hf_mirrors/mindlab-research/Macaron-V1-Tall加载底座需使用支持 Qwen3.6 MoE 架构的 Transformers 版本；若要完整的"路由 + 专家切换"服务，可搭配官方的 Mixture of LoRA (MoL) serving harness，它对外保持 OpenAI 兼容接口。项目采用 MIT 许可证，可自由使用。
小结
- Macaron-V1-Tall= Qwen3.6-35B-A3B 底座 + 4 个 LoRA 专家（MoL 架构），以约 50B 的发布规模覆盖聊天、Agent、编码、GenUI 四大场景；
- L0 身兼两职：既是聊天骨干，又是路由器，用 24 token 的约束解码把请求派给最合适的专家；
- 专家间不抢戏：任务在单一专家内完成，靠 ≤192 token 的摘要跨专家交接，路由准确率 99.04%；
- 以小博大：1.76s 的端到端延迟比 748B 的兄弟模型快 2.7 倍，UI4A-Bench 较底座暴涨 25.4 分。
MoL 架构的核心价值在于：不同团队甚至不同用户可以在同一个底座上训练自己的专家并组合服务——这正是 Macaron-V1 面向"开放持续学习"的设计愿景。
【免费下载链接】Macaron-V1-Tall
相关推荐
CANNBot 仓群架构深度解析：cannbot、cannbot-skills、cann-bench 如何各司其职
CANNBot 仓群架构深度解析：cannbot、cannbot skills、cann bench 如何各司其职 CANNBot 是 CANN 社区的 Inf
人工智能AI AgentAI 技能代码智能体工作流自动化CANN模型优化深度解析Comet 0.4.0架构：纯Node.js运行时上的确定性Skill引擎是如何构建的
深度解析Comet 0.4.0架构：纯Node.js运行时上的确定性Skill引擎是如何构建的 Comet 0.4.0 是一个 只依赖纯 Node.js 运行时
在Switch上运行B站客户端完整指南
在Switch上运行B站客户端完整指南 wiliwili 是一款专为手柄用户设计的第三方 B 站客户端，可运行在 Nintendo Switch、PC 全平台、
音视频桌面应用
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
