FreeLLMAPI｜34 家免费 LLM 额度，拧成 1 个 OpenAI 兼容端点

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi

各家免费额度都不够单用，管 34 套密钥和限流更累。FreeLLMAPI 是本地跑的免费 LLM 额度网关：34 家提供商、635 个模型端点、一个 /v1 接口。读完这篇，你能在本机跑通它，并发出第一个真实请求。

它替你省掉的事

你在给内部工具写摘要脚本，手头有三家提供商的密钥。代码里写满了 base_url 和重试：

client = OpenAI(base_url="https://api.groq.com/openai/v1") resp = client.chat.completions.create(model="llama-3.3-70b", ...) # 撞 429 → 整个卡在这

每家都有各自的失败点。接上 FreeLLMAPI 后，base_url 只指本地，model 填 auto，那把 freellmapi-… 统一密钥背后压着各家真实密钥。真实密钥用 AES-256-GCM 加密存本地 SQLite，你的应用只见到统一密钥。哪家撞上限流，路由器把它的密钥挂冷却，自动切到回退链下一家。3 套 SDK 变成 1 个 base_url。

从零到跑通

前置条件：Docker 和 OpenSSL。

第 1 步，拉代码、生成主密钥

git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" > .env

ENCRYPTION_KEY 是给各家静态密钥做 AES-256-GCM 加密用的主钥。 ✅ .env 里有两行：ENCRYPTION_KEY 和 PORT=3001。

第 2 步，起容器

docker compose up -d

API 和仪表盘都跑在 3001 端口，SQLite 数据落在具名卷里。 ✅ docker compose ps 状态是 Up；docker compose logs -f freellmapi 里看到监听 3001。

第 3 步，建账号、加密钥

浏览器打开本机的 3001 端口，服务器版首次要设一个邮箱 + 密码账号。Keys 页加一把你现有的提供商密钥，Google AI Studio、Groq、Mistral 都行。 ✅ 那把密钥右边出现健康状态点，说明它通过了体检。

第 4 步，排回退链、拿统一密钥

把 Fallback Chain 拖成你要的优先级顺序，复制页顶的 freellmapi-… 统一密钥。链的顺序就是当前的路由顺序。

✅ Playground 发一句话，回复下方标出应答的提供商、模型和延迟。

发一条真实请求

把客户端的 base_url 指过来，代码和你写 OpenAI 官方接口时没有任何区别：

from openai import OpenAI client = OpenAI( base_url="http://localhost:3001/v1", api_key="freellmapi-your-unified-key", ) resp = client.chat.completions.create( model="auto", messages=[{"role": "user", "content": "用一句话解释免费额度"}], ) print(resp.choices[0].message.content) print("Routed via:", resp.headers.get("x-routed-via"))

怎么确认它在干活：响应头 X-Routed-Via 写清这次是谁处理的，形如 groq/llama-3.3-70b。拿它和 Keys 页那把密钥的健康状态对上，链路就在真实工作。流式、工具调用、Embedding、图像语音生成的完整接口写法，见 API 参考。

超出基本盘的玩法

• 换路由档位：model 传 auto:fast 走测得最快的档、auto:smart 走智力最高的 → 想按单一指标取舍时用。
• Fusion 多模型合成：model 传 fusion，同一份提示词并行发给一组免费模型起草，裁判模型综合出最终答案 → 单个模型答得不够稳时用。
• 命名回退链：预先建一条"编码链"，请求传 auto:coding → 不同工具想走不同链、共用一把密钥时用。
• 本地模型混流：Keys 页把 Ollama、vLLM 等本地模型加成自定义端点 → 想免费池和本地模型一起路由时用。
• 编程智能体接入：一条 npx 命令把端点和密钥写进 Claude Code、Codex CLI → 想把编程智能体切到免费池时用。

先知道这些再动手

⚠️ 池子里没有前沿模型，也没有 SLA。头部模型跑满每日配额后，整体智力明显下滑，UTC 午夜才重置，深夜只能当轻量任务用。

⚠️ 单用户、local-first，默认只绑 127.0.0.1，别的设备打不开是常态。要改用 HOST_BIND=0.0.0.0 开放局域网，防护只有那把统一密钥，只在你信任的网络里这么干。

⚠️ 忘记密码没有邮箱可发重置链接。一次性重置码直接打在服务器日志里，15 分钟内有效，翻不到日志就只能等过期重试。

⚠️ 上游提供商的服务条款对你的代理流量同样适用。真要上线产品，发布前得换成付费 API。

项目定位是个人实验与学习，不是生产替代。

接着玩的方向

把 Claude Code、Codex CLI 指过来，一键配置命令见 客户端与编程智能体；路由打分和配额冷却机制，看 架构说明。

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi