Google AI Edge Gallery使用指南5步在手机上跑通本地AI大模型离线也能用【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/galleryGoogle AI Edge Gallery 是 Google 推出的本地 AI 演示应用让开源大模型直接在你的手机上离线运行覆盖对话、识图、语音转录等场景。本文从安装到模型选择带你 5 步跑通第一个本地 AI 模型。为什么选本地 AI没网和隐私问题都能解决你肯定遇到过这些情况出差到信号差的酒店AI 助手转圈半天没反应或者想把工作文档、私人照片丢给 AI 分析又担心内容被上传到云端。本地运行的方案就是为这些痛点准备的。Google AI Edge Gallery 把模型下载后装进手机所有推理都发生在设备内部断网、飞行模式下照样对话、识图你的文字、图片、录音不会离开设备没有网络延迟响应速度只取决于你的硬件目前版本已正式支持 Gemma 4 系列模型可以直接体验最新的端侧推理能力。快速上手从安装到第一次对话第一步确认系统版本并安装应用应用要求Android 12 及以上或iOS 17 及以上。Android 用户从 Google Play 安装如果你的设备没有 Google Play可以从项目 Releases 页面下载 APK 手动安装。iOS 用户从 App Store 安装macOS 也有对应安装包。第二步下载并加载第一个模型打开应用后首页会列出可下载的开源模型来自 Hugging Face。新手建议先选一个小体量模型下载完成后点击加载。首次加载需要解压和编译等待几十秒到几分钟属于正常现象。第三步跑通第一次本地 AI 对话进入 AI Chat 界面选一个简单问题试试比如用三句话介绍你自己。看到模型逐字输出回复说明本地推理链路已经通了。这时你可以打开飞行模式再问一次确认它真的不依赖网络。核心场景实战3 个最能代表能力的用法Ask Image用相机或相册做图像问答能解决什么看不懂包装上的外文、想识别某个零件型号、给照片写描述——这些都能拍一张或传一张图让模型解答。怎么操作进入 Ask Image 场景选择支持图像输入的模型如 Gemma-3n 系列点击相机或从相册选图然后输入你的问题。体验要点识图任务对内存要求比纯文本高低配手机如果卡换小一号的模型再试。Audio Scribe离线转录和翻译录音能解决什么会议记录、采访录音、外语播客转成文字还能顺手翻译全程不上传音频。怎么操作进入 Audio Scribe选择上传音频文件或直接录音模型会在设备上完成语音转文字。体验要点长音频耗时明显建议先用 1 分钟以内的片段验证效果嘈杂环境下的准确率会下降录音时尽量靠近声源。Agent Skills给本地模型装上工具能解决什么纯对话模型只会说加上技能后它还能做——查维基百科、生成二维码、展示互动地图甚至发邮件。怎么操作进入 Agent Chat点输入框上方的 Skills 入口打开技能管理器点选择从精选列表添加挑一个技能装上之后模型会在合适的时候自动调用。体验要点技能分纯文本、JavaScript 脚本和原生意图三类仓库里 skills/README.md 有完整的技能编写文档和十几个可直接参考的示例。模型选择策略按内存和任务挑模型应用内置的模型列表里下载体积和预估峰值内存是关键指标数据见 model_allowlist.json模型下载体积峰值内存参考适合Gemma3-1B-IT q4约 0.5 GB约 2 GB老设备尝鲜纯文本对话Qwen2.5-1.5B-Instruct q8约 1.6 GB约 2.6 GB日常问答性价比均衡Gemma-3n-E2B it int4约 3.1 GB约 5.9 GB需要识图的中端设备Gemma-3n-E4B it int4约 4.4 GB约 7 GB内存充裕的旗舰机两条经验手机运存 6GB 以下优先 1B~1.5B 级别的轻量模型响应快、不容易卡死要做识图、语音转录或调用技能工具选 4GB 级别或 Gemma 4 系列MCP 工具调用场景官方也推荐用 Gemma-4-E4B 这类能力更强的模型不确定自己的设备跑哪个合适应用内置了 Benchmark 功能跑一次基准测试就能看出各模型在你硬件上的真实表现。排坑指南3 个高频问题安装不上或应用列表里找不到现象商店里搜不到应用或安装直接报错。原因系统版本低于 Android 12 或 iOS 17应用无法安装。处理办法在系统设置里核对版本号。版本够但装不上检查是否还差最后一点存储空间版本不够升级系统或换设备是唯一出路。模型下载卡住或中途失败现象进度条停在某个位置不动或下载完成后提示校验失败。原因模型文件普遍在 1~7 GB弱网环境很容易中断存储空间不足也会失败。处理办法连上稳定的 Wi-Fi预留出比模型体积多 2 倍的剩余空间然后删除失败的记录重新下载。大模型首次下载建议放在充电且不用手机的时候进行。生成回复很慢甚至卡顿现象模型加载很久输出一个字要等好几秒。原因模型太大超出设备承受能力或后台应用占满了内存和 CPU。处理办法换更小的模型是最有效的办法关闭后台应用、保持散热良好也能改善明显。可以用内置 Benchmark 确认瓶颈再决定是降级模型还是换设备。进阶与开发者把应用扩展成你自己的如果你会写代码这个项目的价值不止于用。它是 AndroidKotlin Jetpack Compose项目核心代码在 Android/src/app/src/main/java/com/google/ai/edge/gallery/ 下几份文档值得看本地构建指南DEVELOPMENT.md——说明了配置 HuggingFace 开发者应用后如何在 Android Studio 里编译运行自定义函数调用Function_Calling_Guide.md——教你给模型注册自己的工具函数技能开发skills/README.md——写一个 SKILL.md 就能给模型加新能力MCP 服务器接入mcp/README.md——让本地模型调用外部工具服务想直接改源码先克隆仓库git clone https://gitcode.com/GitHub_Trending/gallery44/gallery写在最后Google AI Edge Gallery 把AI 必须联网变成了AI 就在口袋里离线、私有、低延迟普通用户装完就能用开发者改起来也方便。打开应用先下一个 1B 级的小模型跑通你的第一段本地 AI 对话吧。【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/gallery创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考