项目AI 基础设施LLM API智能路由免费模型OpenAI 兼容
tashfeenahmed/freellmapi
AI 解读已生成 · AI 生成，数字以原文为准
FreeLLMAPI 聚合 635 个免费模型端点
FreeLLMAPI 把 34 家免费 LLM provider 聚合为约 7.4 亿 token/月、474 个模型家族、635 个端点，暴露成一个 OpenAI 兼容 API，解决多 SDK、多速率限制和单点故障。路由按实时评分选模型，遇限流或服务端错误自动冷却并故障切换，密钥以 AES-GCM 加密存储并跟踪每 key 配额；还兼容 Anthropic Messages、Gemini 原生接口、Ollama，支持 fusion 多模型合成、多媒体生成、MCP server 和多语言仪表盘。用 curl install.sh 起 Docker 或装桌面版，在本地仪表盘添加密钥后拿统一 token 即用；免费版目录为每月快照，付 $19/年 可升级实时 catalog。官方声明仅限个人实验，无前沿模型、无 SLA，晚间智能随配额耗尽下降，MIT 协议。
- 1单一
/v1端点聚合多家免费模型 - 2路由按限额故障切换并轮换密钥
- 3免费目录快照延迟 30 天
为什么重要 把多家免费层收敛成单一 /v1，适合本地 Agent 原型；生产前需换付费 API。适合 做 AI 原型、Agent 本地调试、低成本推理集成的工程师
- 来源
- github.com
- 发布
- 2026/10/21
- 作者
- tashfeenahmed
- 今日新增
- +715
语言占比
- TypeScript 98.9%
- JavaScript 0.7%
- 运行时
- Node >=20.18.0 <25.0.0
- 空闲内存
- ~40 MB RSS
- 密钥存储
- SQLite + AES-256-GCM
- 默认端口
- 3001
- 目录验签
- Ed25519
- Premium
- $19/年或 $49 买断
34
提供商
474
模型族
635
免费端点
7.4B tokens
月容量
注释 · 同一目录覆盖聊天、嵌入、转写与视频端点。出自 README·Premium
- chat58492%
- embeddings416%
- transcription71%
- video30%
注释 · 原文按端点能力拆分免费目录。出自 README·Premium
- cli/22 个文件
npx freellmapi 命令行工具
- client/286 个文件
React dashboard 与 playground
- desktop/54 个文件
macOS/Windows 菜单栏应用
- docs/166 个文件
安装、API、客户端与架构文档
- server/639 个文件
路由、providers 与 API 服务端
- shared/
monorepo 工作区之一
- docker-compose.yml
Docker Compose 编排
- package.json
monorepo 工作区与脚本
代码分布（各目录文件数）
- server/639 个
- client/286 个
- docs/166 个
- desktop/54 个
- repo-assets/51 个
- cli/22 个
- (根目录文件)19 个
- examples/4 个
- .claude/3 个
- scripts/3 个
- 1Docker 一键安装$ curl -fsSL https://freellmapi.co/install.sh | bash
- 2配置 Claude Code$ npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>
- 3本地开发启动$ npm install && npm run dev
- 4CLI 管理提供商密钥$ npx freellmapi keys add|list|remove|test <platform>
中文（AI 翻译）
原文
深度总结
1 / 6一次请求的路由路径· 流程
路由器选择 健康且不超限额 的最高优先级模型
- 01接收统一请求
客户端用统一
freellmapi-…bearer token 访问/v1、/v1/messages等端点。 - 02选择模型
按策略、优先级、密钥状态和 RPM/RPD/TPM/TPD 计数选择可用模型。
- 03解密并调用
提供商密钥在内存中解密，然后调用上游 provider。
- 04故障转移
遇到 429/5xx 时冷却该密钥并重试 fallback chain 的下一个模型。
- 05返回路由信息
响应带
X-Routed-Via: <platform>/<model>，显示实际服务方。
注释 · 响应头 X-Routed-Via 标明实际服务提供商与模型。出自 README·How it works