ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

无需人工标注!智谱AndroidGen-GLM-4-9B重构安卓智能交互

无需人工标注!智谱AndroidGen-GLM-4-9B重构安卓智能交互

无需人工标注!智谱AndroidGen-GLM-4-9B重构安卓智能交互

导语:智谱AI最新开源的AndroidGen-GLM-4-9B模型,首次实现大语言模型(LLM)在安卓系统全场景的自主任务执行,无需人工标注交互数据即可操控消息、时钟、邮件等应用,为移动智能体开发突破数据稀缺瓶颈提供新路径。

行业现状:移动AI的"数据困境"

当前移动智能体(Agent)开发面临三大挑战:场景多样性要求模型具备跨应用泛化能力,复杂任务需多步骤精准规划,数据过滤与标注成本占开发总成本的60%以上。传统方法依赖人工标注的交互轨迹数据,在面对安卓系统中200+常用应用、10万+可能操作组合时,数据采集效率与标注质量成为难以逾越的瓶颈。

如上图所示,该对比图展示了AndroidGen系列模型与M3A、SeeAct等现有方案在任务成功率上的对比,其中AndroidGen+GPT-4o组合平均得分达46.8,显著领先于其他方案,接近80%的人类水平基准。这一数据充分体现了AndroidGen框架在解决数据稀缺问题上的技术优势,为移动智能体开发提供了新的可能性。

核心突破:四大模块解决数据稀缺难题

AndroidGen框架通过创新的技术架构,实现了无需人工标注的智能体训练。其核心在于四个协同模块:

ExpSearch(经验搜索)
检索已完成的类似轨迹辅助上下文学习,提升简单任务与复杂任务间的泛化能力。该模块通过Contriever模型对指令进行编码,计算与数据库中嵌入向量的相似度分数,选择最相似的轨迹作为学习示例。

ReflectPlan(反思规划)
使代理能够自我评估任务执行的进度,并根据环境更新计划的状态,从而增强代理的长期推理能力。分为计划初始化和计划反思两个阶段,能在遇到失败状态或进入循环时修改和创建新计划。

AutoCheck(自动检查)
主动验证代理的每一个操作的有效性,降低因操作错误而导致任务失败的风险。检查内容包括元素ID是否存在、类型是否符合要求以及滚动是否完成等。

StepCritic(步骤评估)
将任务分解为多个子目标,并提供逐步的轨迹评估,为模型优化提供细粒度的标签。基于GPT-4o构建,能分解任务为各种子目标,并逐个步骤地评估轨迹,提高在有限上下文长度约束下轨迹的信息密度。

技术原理:从数据生成到模型微调的全流程革新

AndroidGen建立了高效的数据收集与模型训练 pipeline:

  1. 任务制定:基于GPT-4o从AndroidWorld生成约300条任务指令,确保在训练期间不使用奖励信号或黄金标签以防止数据泄露。
  2. 代理采样:结合AndroidWorld环境和GPT-4o对每个任务轨迹进行采样。
  3. 轨迹记录:精确记录每一步的环境状态和操作信息,构建可复现的导航轨迹。
  4. 轨迹评估:通过StepCritic模块评估轨迹质量,确保子目标完成度。
  5. 轨迹增强:扩充高质量数据集,最终形成包含1000+轨迹的训练数据。

模型训练阶段采用LoRA技术,对GLM-4-9B等基础模型进行微调,将规划与执行步骤结合训练,使模型同时具备任务规划与操作执行能力。这种端到端的训练方式,避免了传统方法中规划与执行脱节的问题。

应用场景:重新定义移动智能交互体验

AndroidGen-GLM-4-9B展现出广泛的应用潜力,主要包括三大场景:

自动化任务处理
通过自然语言指令完成发送邮件、设置提醒、查询信息等日常操作。例如,用户只需说"明天早上8点提醒我开会",模型就能自动打开时钟应用并设置闹钟。

跨应用操作
实现不同应用间的数据流转与协同,如"从日历导出明天的会议安排到Excel并发送给团队"。这需要模型能够理解多个应用的界面结构和数据格式,并完成复杂的跨应用数据处理。

智能导航
根据用户指令在安卓系统中完成复杂导航,如"打开微信找到老板的最新消息并设置为未读"。模型需要理解应用内的层级结构和操作逻辑,完成多步骤的精确导航。

这些场景覆盖了个人助理、企业效率工具、无障碍辅助等多个领域,为移动智能交互开辟了新可能。

行业影响:开启移动AI开发新范式

AndroidGen的开源发布将对移动智能体开发产生深远影响:

降低开发门槛
无需专业标注团队即可构建高质量安卓智能体,使中小开发者也能参与创新。开发者可通过以下命令获取模型并开始实验:

git clone https://gitcode.com/hf_mirrors/THUDM/androidgen-glm-4-9b cd androidgen-glm-4-9b # 按照README文档配置环境和依赖

提升任务成功率
在AitW(Android in the Wild)真实设备评测中,跨应用任务成功率提升40%,显著优于现有方案。

推动生态发展
为智能家居控制、车载系统交互、工业平板操作等场景提供可迁移的技术方案。模型支持在消费级GPU(如RTX 4090)上进行推理,通过量化技术可进一步降低硬件门槛,适合研究与原型开发。

未来展望

AndroidGen框架的出现,标志着移动智能体开发进入数据稀缺时代的新阶段。随着模型迭代与应用场景拓展,我们或将见证:智能助手从"被动响应"转向"主动服务"的进化、企业级移动自动化解决方案成本降低70%以上、特殊人群辅助技术的突破性进展(如为视障用户提供全流程手机操作辅助)。这一技术路径不仅解决了当前的开发痛点,更为未来万物互联时代的智能交互奠定了基础。AndroidGen-GLM-4-9B的开源,无疑将加速移动AI应用的创新与落地,推动整个行业向更智能、更高效的方向发展。

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进