跳转到正文
Agent 工具篇约 3 分钟
打开原图 ↗

路由与本地网关 ​

把 CLI / 订阅转成兼容 API,或做多模型路由、负载均衡与拼车中转。中转站程序分工与选型见 API 中转站。

工具名称star 数项目介绍解读
LiteLLM62.8k开源 AI 网关(Python SDK + Proxy):100+ LLM 以 OpenAI/原生格式统一调用;成本追踪、护栏、负载均衡与日志;Bedrock/Azure/Anthropic/Vertex/vLLM 等GitHub
🔥CLIProxyAPI (CPA)57.7k将多种 CLI 封装为 OpenAI/Gemini/Claude/Codex 兼容 API:多账户轮询与故障转移;流式/非流式、多模态、函数调用Zread
New API51.5k统一模型聚合与分发网关:OpenAI / Claude / Gemini 协议互转;额度、倍率、渠道管理(个人与企业)GitHub
FreeLLMAPI48k本机一个 /v1 聚合 30+ 家免费档 LLM(及自备 OpenAI 兼容端点):智能路由、故障转移、密钥加密;仅个人实验GitHub
Sub2API45.5k开源 API 网关:Claude / OpenAI / Gemini / Antigravity 等订阅转兼容 API;Key 分发、计费、调度、限流与拼车Zread
🔥Claude Code Router38kClaude Code 请求路由到任意模型;自定义分发逻辑;无需 Anthropic 账号;支持 DeepSeek/Gemini/Groq 等Zread
magpie30.6k本机网关:任意 Agent(Claude Code / Codex / Gemini CLI 等)接任意模型;OpenAI / Anthropic / Gemini 协议互转;Claude/ChatGPT/Copilot 订阅共享;智能路由与故障转移;菜单栏 + CLI/TUI;MIT官网
opencodex18.2kCodex / Claude Code 通用 Provider 代理:任意 LLM(Claude、Gemini、Grok、DeepSeek、Ollama 等)接 Codex CLI/App/SDK 与 Claude CodeGitHub
claude-relay-service (crs)12.8kClaude Code 镜像中转与拼车,多用户共享转发Zread
Bifrost9.4k企业向高性能 AI 网关:OpenAI 兼容统一接入 23+ 供应商;故障转移、负载均衡、语义缓存、护栏与 MCP;零配置 npx/Docker 起;Web UI 监控;Apache-2.0官网
gpt-load7.2k多通道 API Key 轮询与负载均衡,自动容错Zread
axonhub5.4kAI 流量网关 + RBAC / 多租户权限Zread
ccx4.0k个人向极简 API 网关,快速配置、轻量使用Zread
metapi3.3k聚合 New API / One API / Sub2API 等中转站为单一入口与密钥Zread
octopus2.7k个人向 LLM API 聚合与负载均衡;OpenAI ↔ Anthropic 协议转换Zread
Aether1.5k多租户 AI 基础设施网关:Claude / OpenAI / Gemini 及 CLI 统一接入Zread
ccNexus1.0kClaude Code 端点轮换代理:故障转移;兼容 OpenAI / Gemini 格式Zread
aio-coding-hub0.7k本地 AI CLI 统一网关桌面端:多 CLI 入口、可视化监控与路由Zread
ccg-gateway0.2kClaude Code / Codex / Gemini 三合一代理网关桌面端Zread

发现问题或有实践经验想分享? 参与讨论 ↗

把 AI 从「会聊天」推进到「能稳定交付」