免费 LLM API 拼车神器 freellmapi：每月 74 亿 token、34 家厂商一站式中转

GitHub Trending 上突然冒出一个不起眼但很炸的项目——freellmapi：把 34 家 LLM 提供商的 635 个免费端点统一封装成 OpenAI 兼容接口，每月白送 74 亿 token。单日涨 153 星，已经被多个”AI 创业小作坊”用作主力后端。

它解决什么真实痛点

跑过免费 LLM API 的人都知道三件事：

– 每家厂商注册都要手机号 + 邮箱，还经常限制同一 IP 申请多个 key；

– 各家 API 格式不一样——有的用 OpenAI ChatCompletion，有的用 Anthropic Messages，有的只有 Google AI Studio SDK；

– 免费额度随时变，上周还能用，这周就 429 限速。

freellmapi 的做法是：

– 把 34 家厂商的 635 个免费端点聚合到一个 /v1/chat/completions 接口；

– 自动做 key 轮询、限速回避、失败重试；

– 和 OpenAI SDK 完全兼容，你只要把 base_url 改成 https://freellmapi.xxx/v1 就能直接用 LangChain、LlamaIndex、CrewAI。

为什么是现在火

– OpenAI 5.6 涨价压力（本号昨天分析）让个人开发者加速找替代品；

– 国内厂商 Qwen3、GLM-5.3、DeepSeek-V4 纷纷开放免费 API tier，freellmapi 直接抓取这些端点并入池子；

– GitHub Trending 上同类项目空缺，之前 7B 跑通 OpenAI 兼容网关的工具基本没有；

– 博主的传播效应——多个 YouTube / B 站 up 主把它当作”白嫖 LLM 教程”的素材，48 小时内项目 Star 翻倍。

34 家厂商是怎么来的

按 freellmapi 仓库的 endpoints.json 披露，免费额度较高的 10 家：

| 厂商 | 免费 tier | 限制 |

|——|———–|——|

| OpenRouter | 200 req/day | 多个免费模型轮询 |

| Google AI Studio (Gemini 2.5 Flash) | 60 req/min | 地区限制 |

| Groq | 30 req/min | 队列限速 |

| Mistral | 1 req/sec | 限速严格 |

| Cohere Trial | 1000 req/month | 仅小模型 |

| Qwen (DashScope) | 1M token/月 | 国内手机号 |

| GLM (智谱) | 5M token | 实名认证 |

| DeepSeek | 5M token | 实名认证 |

| OpenAI (gpt-4o-mini) | 5$/月 信用 | 需海外卡 |

| Anthropic (Haiku) | 限时免费 | 不稳定 |

其余 24 家多数是 Grok Free、Perplexity、Replicate、Cerebras 等”小流量免费”渠道。

适合谁 / 不适合谁

适合：

– 个人开发者 / 副业项目：跑 demo、跑论文、跑 POC 完全够用，省下每月 50-200 美元；

– AI 教学 / 培训 / 课程录制：高频调用 + 短 prompt，freellmapi 的限速回避逻辑能扛住课堂并发；

– Agent 实验 / 评估：跑大批量 evaluation task 时，把成本压到接近 0。

不适合：

– 生产环境 / SLA 业务：免费 tier 没有 SLA，9 月 OpenAI 5.6 降价后，付费 API 性价比反而更高；

– 数据敏感场景：请求会经过 freellmapi 中转，不要传个人/客户数据；

– 国内正式业务：Qwen/GLM/DeepSeek 官方都有企业级方案，比 freellmapi 稳定。

上手成本和限制

– 安装：pip install freellmapi 或者直接 docker run freellmapi/api；

– 配置：把 34 家的 key 一个个填进 .env（不必全填，缺哪家用哪家的）；

– 限速：单家厂商触发限速时，freellmapi 会自动切到备选，但首次接入要观察 5-10 分钟确认 fallback 路径健康；

– 维护：每月 1-2 次大版本更新，免费端点会变，star 提醒。

上手 5 分钟：最快接入方式

pip install freellmapi
export FREELLMAPI_KEY="随便填-本地不校验"
freellmapi serve --port 8000
# 任何 OpenAI SDK 直接用：
# from openai import OpenAI
# client = OpenAI(base_url="http://localhost:8000/v1", api_key="dummy")

Docker 用户：

docker run -p 8000:8000 \
  -e OPENAI_API_KEY=sk-xxx \
  -e GROQ_API_KEY=gsk-xxx \
  -e DASHSCOPE_API_KEY=sk-xxx \
  freellmapi/api:latest

一个隐藏风险

freellmapi 的所有 key 都被它的代理服务器中转——这意味着 key 泄露风险比官方 API 大。建议：

– 申请 34 家厂商的 key 时，用专用子账号，不要用主账号；

– 在每家后台设置单日消费上限为 0（这样即使 key 泄露，也只会被免费 tier 耗光）；

– 生产环境别用 freellmapi，它只适合个人项目和 demo。

freellmapi 的爆火本质上是 “个人开发者用脚投票”——OpenAI 涨价 + Claude 没人用 + 开源模型崛起，催生了”白嫖一切”的需求。对中文开发者来说，freellmapi 的价值不只是省 token，而是它把”34 家 API” 统一成了一个抽象层——未来再切其他模型，写一行 base_url 就行。这是 2026 年下半年 AI 基础设施层最值得跟踪的趋势之一。

🔥 关注LC智趣厅，第一时间解读 AI 行业大事件。

👇 关注不错过

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn