【免费下载链接】mlx-serveNative LLM inference server for Apple Silicon. OpenAI Anthropic API compatible. No Python. Zig backend, Swift frontend macOS app with chat, music, voice, video generation.项目地址https://gitcode.com/gh_mirrors/ml/mlx-serve点击查看免费下载mlx-serve是一款运行在 Apple Silicon 上的原生 LLM 推理服务器Zig 编写的后端 Swift 前端 macOS 应用兼容 OpenAI 与 Anthropic API全程无 Python 依赖。本文是它的从零源码编译完整指南——从环境准备、一键构建脚本到开发者快速迭代技巧带你在 Mac 上亲手编译出这个聊天 图像 视频 音乐 3D 生成一体的本地 AI 服务器。为什么选择从源码编译大多数用户直接下载官方应用或brew install mlx-serve即可。但从源码构建 mlx-serve 有独特价值️参与开发动手改代码、调试 Zig 引擎或 Swift 界面⚡抢先体验获得最新提交的功能如 M5 NAX 神经加速器内核完全可控mlx 与 mlx-c 由仓库内固定版本子模块自行编译NAX 内核默认启用不受 Homebrew 预编译包限制理解架构看清一个脚本如何构建 Zig 服务器 Swift 应用 MLX 框架的全貌提示如果你只是想使用它见 README.md想只编译服务器二进制见 docs/building.md。编译环境要求Xcode 26 与前置工具清单mlx-serve 仅支持macOS 26.2 与 Apple SiliconM1–M5。内置 MLX 以 26.2 为部署目标编译因此 M5 的 NAX 内核随包启用。工具版本要求用途macOS26.2Apple Silicon运行与构建平台Xcode26.2含 Metal Toolchain编译 Swift 应用与 Metal 着色器Homebrew最新版提供 cmake libwebp见 BrewfileZig0.17.0由 scripts/fetch-zig.sh 自动下载无需手动安装两个容易踩的坑Metal Toolchain 是独立组件。Xcode 26 把 Metal 编译器拆成了单独下载项若xcrun -sdk macosx metal --version报错先运行xcodebuild -downloadComponent MetalToolchain构建脚本会自动处理见 app/build.sh。cmake 与 webp 缺一不可。cmake 用来构建 mlx 子模块webp 在视觉流水线中解码图片构建时校验webp 1.6.0见 Brewfile 注释。一键构建克隆仓库与快速编译步骤只需三条命令即可完成应用 服务器的完整构建无需 Apple 开发者账号脚本会自动做 ad-hoc 签名git clone --recurse-submodules https://gitcode.com/gh_mirrors/ml/mlx-serve cd mlx-serve brew bundle install --fileBrewfile ./app/build.sh构建成功后打开产物open app/MLX-Serve.app构建脚本内部流程app/build.sh 做了什么一条./app/build.sh背后是一条完整的装配流水线完整逻辑见 app/build.sh校准子模块把 lib/mlx-src、lib/mlxc-src 等固定版本子模块拉回指定 commit防止版本漂移检查 Xcode 与 Metal定位完整 Xcode 应用缺失 Metal Toolchain 时自动下载安装 Brewfile 依赖cmake 与 webp编译 MLXscripts/build-mlx.sh 用 cmake 构建 mlx mlx-c 到 lib/mlx/并断言 NAX 内核存在——缺少即硬性失败绝不静默降级落位 llama.cppscripts/fetch-llama.sh 获取预编译 libllama让 GGUF 模型可运行编译服务器zig build -DoptimizeReleaseFast产出约 7 MB 的单一二进制编译应用Swift 端源码位于 app/Sources/并打包两个二进制——MLXCore 界面与 mlx-serve 服务器必须同步更新签名打包无签名身份时 ad-hoc 签名并跳过公证开发者账号则走完整公证 DMG 流程开发者快速迭代FAST_DEV 与 ZIG_DEBUG 两个开关日常开发不必每次都跑完整发布流水线app/build.sh 提供两个正交的调试杠杆FAST_DEV1Swift 端改增量编译跳过 Whole Module Optimization、就地更新应用包、跳过公证与 DMG——只影响 Swift 侧Zig 服务器始终保持 ReleaseFastZig 缓存已让未改动部分的重建只需几秒ZIG_DEBUG1以 Debug 模式构建 mlx-serve开启安全检查与真实 panic 栈。注意 Debug 引擎解码慢 2–4 倍延迟读数不可信且仅在 FAST_DEV 下可用防止 Debug 二进制误入发行物典型组合FAST_DEV1 bash app/build.sh # 日常 Swift 界面迭代 FAST_DEV1 ZIG_DEBUG1 bash app/build.sh # 调试 Zig 侧逻辑另有捷径纯 Swift 修改可直接cd app swift build -c release构建后追加ko参数可自动重启正在运行的应用。只构建服务器跳过 GUI 的轻量路径如果你只关心http://localhost:11234上的 OpenAI / Anthropic 兼容 API例如在 Linux 上跑测试、或在无界面 Mac 上部署可以只构建 Zig 服务器./scripts/fetch-zig.sh # 落位固定版本 Zig 到 .zig-toolchain/ export PATH$PWD/.zig-toolchain:$PATH ./scripts/fetch-llama.sh ./scripts/build-mlx.sh # 首次执行之后仅在 pin 更新时重跑 zig build -DoptimizeReleaseFast⚠️ 始终使用ReleaseFastDebug 模式推理速度只有 1/2 到 1/4会严重歪曲性能判断。Linux 也能跑部分测试服务器本体仅限 macOS / Apple Silicon但逐步预览编码器src/preview.zig src/jpeg.zig src/latent_rgb.zig不链接 MLX在 Linux 上可直接验证zig build preview-test常见构建问题速查清单现象原因与解法xcrun -sdk macosx metal --version失败Xcode 26 的 Metal 编译器是独立组件运行xcodebuild -downloadComponent MetalToolchain干净 Mac 构建在cmake -S处报错未执行brew bundle install --fileBrewfilecmake 不是 macOS 预装的找不到 Xcodexcode-select 指向 CLT从 App Store 安装完整 Xcodeapp/build.sh 会自动定位并临时导出DEVELOPER_DIR子模块缺失报错克隆时漏了--recurse-submodules补跑git submodule update --init --recursive应用行为怪异、资源残留FAST_DEV 就地更新包会保留已删除文件删除app/MLX-Serve.app后完整重建一次总结从源码到运行只需十分钟回顾一下构建 mlx-serve 的完整路径装好Xcode 26.2 Homebrew克隆仓库执行三条命令./app/build.sh自动搞定 Zig 0.17、MLX、llama.cpp 的全部落位与编译最终产出签名好的 MLX-Serve.app 与单一 Zig 服务器二进制。从源码构建的最大回报是对无 Python、单二进制、四 API 同端口架构的直观理解——这正是 mlx-serve 比传统本地推理方案更轻更快的原因。祝你构建顺利更多资料docs/building.md · docs/zh-CN/building.md · docs/cli.md · CHANGELOG.md赞分享【免费下载链接】mlx-serveNative LLM inference server for Apple Silicon. OpenAI Anthropic API compatible. No Python. Zig backend, Swift frontend macOS app with chat, music, voice, video generation.项目地址https://gitcode.com/gh_mirrors/ml/mlx-serve点击查看免费下载相关推荐Moonlight-Android 开发者入门从源码编译到自定义构建完整指南Moonlight Android 开发者入门从源码编译到自定义构建完整指南 Moonlight Android 是一款开源的 Android 游戏串流客户端音视频移动开发AndroidTool-Mac源码编译指南从零开始构建完整应用AndroidTool Mac源码编译指南从零开始构建完整应用 AndroidTool Mac是一款专为macOS设计的安卓设备管理工具能够让你一键完成截图桌面应用开发工具移动开发DataEase源码编译从零构建开发环境指南DataEase源码编译从零构建开发环境指南 引言为什么需要源码编译 还在为DataEase的功能定制而烦恼想要深度参与开源BI工具的二次开发本文将从数据分析数据可视化后端前端企业应用创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考