FreeLLMAPI 指南：把 34 家 LLM 厂商的免费额度接进同一个 API，每月白拿 74 亿 Token

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi

FreeLLMAPI 是一个可自托管的 LLM 路由网关：把 Google、Groq、Mistral 等 34 家厂商的免费层接到同一个 OpenAI 兼容的 /v1 接口上，合计 635 个免费模型端点，每月约 74 亿 token 的免费容量。它替你接手三件事：每个请求自动挑最优模型、某家被限流时自动切走、厂商密钥加密落盘。如果你不想为十几家平台分别注册账号、分别写适配代码，又想用免费 token 跑原型或给编程智能体接上后脑，这篇文章能让你在 10 分钟里把服务跑起来、拿到统一密钥、看到第一条免费回复。

十分钟跑通：装好、配好、发出第一笔请求

最短路径是 Docker 一行命令：

curl -fsSL https://freellmapi.co/install.sh | bash

1. 装：这一行会建好~/freellmapi数据目录、生成加密密钥、拉镜像并启动容器。脚本可以重复执行，容器只会更新到最新版，已有的密钥和配置不丢。跑完在浏览器打开http://localhost:3001，直接就是仪表盘。
2. 配：在 Keys 页把你手头的厂商密钥填进去，Google AI Studio、Groq、Mistral 都行；再拖动 Fallback Chain 调整顺序，排前面的优先被选；最后在页顶拿走以freellmapi-…开头的统一密钥，往后你的程序只用它一把。厂商原始密钥落进本地 SQLite 前已经过 AES-256-GCM 加密，程序侧只能看到统一密钥。
3. 发：把 OpenAI SDK 指到本地，一次调用就有回复：

from openai import OpenAI client = OpenAI(base_url="http://localhost:3001/v1", api_key="freellmapi-your-unified-key") resp = client.chat.completions.create( model="auto", messages=[{"role": "user", "content": "用一句话总结罗马帝国衰落的原因。"}], ) print(resp.choices[0].message.content)

model="auto"交给路由器挑选。响应头里还有一行X-Routed-Via，直接标出这次是哪家应答的。

把这个池子用出更多：4 种切换与接入方式

• 按请求调取向：这次想快就写auto:fast，想聪明就写auto:smart，取向只对本次请求生效；写具体模型名则直接点名。
• 按请求换回退链：命名好的回退链配置档（编程链、视觉链）平时在仪表盘切换，临时换用auto:<配置档名>。
• 多模型并行合成：请求虚拟模型fusion，一条提示词会同时发给多个风格各异的免费模型，再由裁判模型把几份草稿合成一个最终答案。
• 接入自己的模型：任何 OpenAI 兼容端点（Ollama、vLLM、LM Studio）都能在 Keys 页挂成自定义提供商，本地小模型从此和云端免费层共享同一条路由。

不想敲代码，就在 Playground 页发一句话，回复下方会标出实际应答的模型和耗时。流式、工具调用、Embedding、Anthropic Messages 接口的完整参数在 API 参考；Claude Code、Codex CLI、Aider 等编程智能体各有一键接入写法，见 客户端接入文档。

一张图看懂请求是怎么被路由的

一个请求进来，先过评分表：路由器按速度、能力、可靠性三个轴给所有候选模型打分，评分从实时流量里持续学习，然后只在密钥健康、没触限的模型里挑分最高的一家应答。这次调用如果撞上 429 或 5xx，对应密钥立刻进冷却，请求转给回退链上的下一家重试，整轮最多 20 次尝试。链路底下还压着一本账：按(平台, 模型, 密钥)粒度记 RPM、RPD、TPM、TPD 四类计数器，保证没有任何一把密钥被池子推着越过免费上限。

看懂这条链路，某家厂商一直没被用到时你就能立刻定位卡点，不用瞎猜。实现细节可以看 路由核心源码 和 架构文档。

免费 Token 花到哪了：看这两个面板

Models 页：每个模型挂着可靠性、速度、智能三项实时评分，列表顺序就是此刻真实的路由顺序，页面顶部还有整个模型池的月度 token 预算消耗进度。它回答"我的免费容量还剩多少、谁在干活"。

Analytics 页：请求量、成功率、token 进出量、平均延迟、按提供商拆分，p50/p95 与首 token 时延（TTFT）都能查，时间窗从 24 小时一直拉到 90 天。它回答"这个池子靠不靠谱、哪家贡献最大"。

四个常见卡点

• 服务器版要登录密码？桌面版内置隐藏本地账号，打开即自动登录；只有 Docker 或源码部署的服务器版首次启动才需要设邮箱和密码。
• 服务器版密码忘了？登录页点 "Forgot password?"，重置码直接打在服务器日志里，docker compose logs -f freellmapi可取，15 分钟内有效。
• 局域网别的设备打不开？默认只绑定127.0.0.1，别处够不着；带HOST_BIND=0.0.0.0重跑才能暴露到局域网——只在可信网络里这么做，单用户服务唯一的防护就是那把统一密钥。
• 宿主机连得上厂商，容器里却连不上？容器内的127.0.0.1指容器自己；若你靠宿主机的代理客户端访问上游，把代理地址改指向host.docker.internal。

免费层的三个真实取舍

一，别期待稳定用上前沿模型：它们确实出现在个别厂商的免费层，但日额度最小、最可能随时被下线或转收费。二，端点的有效智能在每天后半段往下走，要等 UTC 午夜日额度重置才回来。三，没有 SLA，设计上就是单用户，延迟也会随应答厂商浮动。

适合个人实验、学习和给原型接编程智能体；不适合需要稳定能力上限与可用性的生产服务。最后提醒一句：各厂商的服务条款从一开始就约束着你，打磨真实产品没问题，但上线之前请换成付费 API。

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi