93.4% 目标设定权该不该交出去？Atria Dawn 实证数据背后的人机边界之争

【免费下载链接】Atria-Dawn-Preview项目地址: https://ai.gitcode.com/InternLM/Atria-Dawn-Preview

2026 年 9 月，上海人工智能实验室低调发布 Atria Dawn Preview——一个 744B 参数的 MoE 智能体大模型，16 项基准中 5 项登顶、3 项第二。但真正让这份技术报告与众不同的，不是分数，而是一组罕见的人机协作实证：769 条任务记录、56 名参与者、覆盖项目全过程的 agent 日志，第一次系统性量化了"人在智能体研发中的角色"。

数字本身充满张力：AI 参与了 96.5% 的任务，却只在 6.1%～9.2% 的决策中拥有最终拍板权；人类守住了 93.4% 的目标设定权和 85.5% 的最终决策权。这组数据随后在社区引发了一个直白的追问——93.4% 的目标设定权，究竟是人类刻意为之的安全设计，还是 AI 能力尚未抵达的无奈结果？而这个问题背后，是 RSI（递归自我改进）时代最核心的博弈：决策权会不会、该不该从人手中迁移出去？

先看数据：769 条任务记录里的分工真相

论文的分析框架相当克制。在 739 个有明确回答的任务中，713 个（96.5%）使用了 AI；而在角色归因层面，研究把"谁提出方案"和"谁选择方案"拆开统计，结论是：AI 提出方法的比例高达 55.4%（"AI 提出、人类选择"成为最常见的分工模式），但 AI 在目标或范围决策上的提案占比只有 16.9%——超过三倍的落差。人类在方法/参数决策中做出最终选择的占比是 85.5%，在目标设定上是 93.4%，在接受标准上是 81.9%。论文原文说得更锋利："随决策类型变化的，是生成选项的一方，而不是在选项之间做选择的一方。"

另外三组数据共同拼出这幅分工图景。第一，455 个已完成且有效的 AI 辅助任务中，151 个（33.2%）被参与者评定为"没有 AI 就无法完成"，且这些任务来自 56 人中的 27 人——不是少数重度用户的个案。论文据此区分了"节省的时间"与"被打开的可能性"：后者不是把原本缓慢的工作压缩，而是把根本不会被尝试的工作变成可能。第二，在 588 个记录了最大困难的任务中，76.0% 靠人类干预才继续推进，agent 自主恢复的只有 23.0%；而人类帮助的主要形态是补上下文、澄清需求（35.2%）和诊断问题、调整方法（34.7%），真正动手改代码的部分编辑仅占 3.2%、接管仅占 0.7%——人类干预更倾向于改变"agent 知道什么"，而非"谁来做"。第三，同一批参与者中，agent 动作数与人类提示数的日度中位数在四周内从 11.0 涨到 28.5。论文对此的解读值得反复咀嚼："每个人类判断行为现在通过更多的 agent 动作传播，而不是更少。稀缺的输入是判断，而非执行。"

这份分工图景并非凭空而来。仓库里的 chat_template.jinja 就是为这种协作方式服务的协议层：它定义了<think>推理标签、按 effort 分档的 reasoning 机制、<tool_call>与<arg_key>/<arg_value>的 XML 工具调用格式，以及针对图片、视频、音频输入的显式 reminder（"你无法处理此类输入"）。结合 tokenizer_config.json 与 config.json 中 256 个路由专家、78 层、单 token 激活 8 专家的 MoE 配置，可以看出这个模型的设计目标不是"对话",而是"可被框架解析、可被工具链验证、可被人类审计的 agent 协作"——模型以结构化协议输出推理与工具调用，正是为了让人在长链工作中仍能定位、复核每一个决策点。

数据立场：人类主导是安全设计，还是能力不足？

面对"93.4% 是不是安全设计"这个问题，论文给出的其实是复合答案：两者兼有，且证据可以被拆开。

先说能力不足的一面。论文在 5.1 节坦白承认：AI 提出的方法提案"多数是研究者已经确定的方向之内的变体"，归因于单一 agent 有限的探索范围，而"新的流水线和工作流仍来自研究者对 agent 的提示引导"。目标的提案率（16.9%）与方法的提案率（55.4%）之间三倍的落差，本身就是能力曲线的切片——AI 更擅长在既定目标下生成候选路径，而非生成值得研究的新目标。论文甚至点破：在研究者用特定问题、偏好与权衡引导时，"即使是同一个 agent 也探索得远比默认情况下更广"。这与其说是安全设计的成就，不如说暴露了当前模型在"研究方向生成"这一能力维度上的真实短板。

再说安全设计的一面。论文 5.2 节的立场毫不含糊：当被问及"是否应当像授予其他权限一样，授予 AI 保障人类安全的权限"时，答案是明确的不。作者强调"每次 AI 能力跃迁，都应有成比例的对齐与监督投入"，并呼吁明确"谁的意图塑造对齐目标、谁承担风险、谁保持问责"。论文摘要的收尾句同样直白：更自主的 AI 研究，必须同时推进"发现能力"与"有意义的监督能力"，把"可问责的人类权威"保留在风险与方向上。

最耐人寻味的是论文记录的一个现实细节：许多研究者运行 agent 时使用了 Codex 的 yolo 模式和 Claude Code 的 skip-permissions 模式，授予宽泛的执行权限以免长任务卡在审批上——论文的评语是："便利性，而非任何深思熟虑的权威分配，在实践中划定了边界。"换句话说，执行权其实已经被大面积交出去了（这也与 96.5% 的使用率、28.5 的动作比吻合），人类死守的只是"目标层"这个最后关口。边界不是画在"做不做"上，而是画在"做什么、为什么做"上。

README.md 中的评测数据（DeepSearchQA 96.0、BrowseComp 92.5、BFCL v4 77.0、AutomationBench 53.8、CyberGym 86.5 五项第一）恰好为这场讨论提供了一个背景注脚：模型在工具调用、深度检索、自动化与安全类任务上处于前沿，但在 GDPval、JobBench、SWE-bench Pro 等长程专业任务上仍有明显追赶空间。能力的不均衡分布，决定了"放权"必然是有选择、分层次的。

反方观点：56 名参与者，能否代表真实的协作场景？

必须承认，这组数据有一个结构性软肋：它本质上是"自我研发过程的内省研究"（case study），而非受控对照实验。56 名参与者是 Atria Dawn 开发团队及其协作网络，任务记录全部来自这一个项目的 2026 年 8 月至 9 月窗口。样本的构成决定了结论的边界。

首先是场景同质。论文 4.1 节自己列举了参与者委派工作的反复模式：报告运行状态与 agent 进度、在指定数据集上跑训练-评估循环、调试失败实验、准备数据、扩容资源、总结 agent 的改动——这些模式"集中在执行与报告，而非决定研究什么"。换句话说，769 条记录天然偏向训练、评测、调试这类流水线任务，它们恰恰是 AI 参与度最高的场景；而真实的协作世界还包括探索性研究、跨团队沟通、资源政治等几乎无法被"委派给 agent"的工作。用流水线任务的分工比例去外推所有协作形态，会产生系统性高估。

其次是自我报告偏差。"没有 AI 就不可完成"（33.2%）是参与者对自身任务的主观估计——在论文设定的"保持范围、质量要求和其他资源不变"的前提下，参与者是否有能力准确反事实地评估"如果没有 AI"？对于深度嵌入 agent 的工作流，这个反事实本身就难以构造。类似的自我归因在 93.4%、85.5%、76.0% 这些数字上同样存在：它们衡量的是参与者的认知与记忆，而非第三方审计的客观记录。

但论文的内部校验也值得放进天平。151 个"不可行"任务分布在 27 名参与者中，横跨约半数队列，排除了"少数重度用户撑起全部数据"的替代解释；而在这些依赖最强的任务中，人类选择最终目标的比例反而更高（151 例中 144 例，95.4%）——如果存在自我报告的美化倾向，它至少没有表现为"把目标权也归功于 AI"。这些细节让数据在"内部一致性"上相当扎实。结论应该是：769 条记录是一份高保真的"内部视角快照"，它精确描述了"一个前沿 AI 团队的研发现场如何与 agent 协作"，但把它当作整个人机协作光谱的全景图，仍需打上问号。

边界往哪走：RSI 时代的决策权迁移预测

论文把未来压缩成两个技术问题：第一，AI 能否持续提出并访问多样化的、有价值的研究方向；第二，AI 能否把积累的经验转化为改进的研究能力——即从"检索经验"走向"吸收经验"。这两点恰与前述数据互为因果：目标的提案率只有 16.9%，对应的是"方向生成"能力的匮乏；而论文记录的一个细节更具象——"agent 从一次失败运行中获得的收获停留在那次会话或记录里，而研究者把教训带进了下一轮"。经验无法跨会话内化，正是 RSI 尚未启动的硬证据。

在此基础上，决策权的迁移路径可以被谨慎地推演：

其一，执行层的权力已经迁移完毕，且不可逆。96.5% 的使用率、11.0 到 28.5 的动作比、yolo 与 skip-permissions 的普遍使用，说明在"执行与修订"层面，人类早已用行动投了票——便利性压倒了审批仪式。

其二，目标层的权力迁移将是一个"能力解锁"而非"人为让渡"的过程。93.4% 这个数字短期内不会因为伦理呼吁而改变，但会随着研究方向生成、经验内化两个瓶颈的突破被重新谈判。论文对此有清醒的警示：权威仍留在研究者手中，"但每个决策现在都建立在一条比任何个人能仔细检查的更长的 agent 工作链上"；当研究者连 AI 工作的最终产出都无法评估时，监督就失去了锚点——最坏的结局，是论文那句略带悲观的推演：人类"最终沦为只能回答'是'的评审者"。

其三，也正因为如此，论文给出的立场是主动的：人类必须"同时维护定义目标的责任与调整 AI 研发的权威"，构建一个与 AI 一同演进的框架，用它扩展对研究可能性的理解、监督 AI 的工作、识别其错误与盲点——否则人类参与"将沦为安慰剂而非实质性贡献"。

把这三条推演落回 Atria Dawn 本身，会发现仓库的工程设计早已在为这场边界谈判铺垫基础设施：chat_template.jinja 将推理过程显式化为可审计的<think>块，将工具调用格式化为可解析的 XML 协议；config.json 里 256 个专家的稀疏激活与 1M 上下文长度，服务于长链、可追溯的 agent 工作流；README 提供的 Codex、Claude Code、Kimi Code 三种接入方式，则把"人审什么、agent 做什么"的边界下放给了框架配置。这一切指向同一个判断：决策权的交接，前提是决策链的透明与可验证——当每个动作都留在可复核的证据链上，"93.4%"这个数字的讨论，才不至于沦为立场之争。

回到开头的设问：93.4% 的目标设定权该不该交出去？数据给出的答案不是"该"或"不该"，而是"尚未到交出去的时刻"——AI 提出目标的能力（16.9%）远未匹配它执行目标的能力（96.5%），而安全上的审慎让人类无意在能力未达时提前让渡。真正值得跟踪的信号，是论文 5.1 节提出的两个瓶颈何时松动：当 AI 生成的研究方向开始超出研究者预设的框架，当失败经验开始跨会话沉淀为能力，93.4% 就会被重新写进谈判桌。在那之前，人类守住目标层，与其说是保守，不如说是此刻唯一站得住脚的选择。

【免费下载链接】Atria-Dawn-Preview项目地址: https://ai.gitcode.com/InternLM/Atria-Dawn-Preview