英伟达开源Switchyard：一个Rust网关让Claude Code、Codex用上开源模型，今天涨了370星

今天发生了什么

英伟达 NeMo 团队的开源项目 NVIDIA-NeMo/Switchyard 今天冲上 GitHub Trending（+370 星）。它是个用 Rust 写的 LLM 流量代理/网关：负责在多个模型供应商之间路由请求、在 OpenAI 与 Anthropic 的 API 格式之间互转、记录运行指标，还提供类型化的可组合路由算法。一句话场景：让你的 Claude Code、Codex 这些编程 Agent，指向开源模型来干活。

解决了什么痛点

现在很多团队遇到一个尴尬：Agent 工具（Claude Code、Codex）默认只认自家 API，想用开源模型（vLLM、Ollama、NVIDIA NIM 部署的模型）就得自己写胶水代码，不同 API 格式来回折腾。Switchyard 的做法是：Agent 继续说它自己的”母语”（OpenAI 格式或 Anthropic 格式），Switchyard 在背后翻译、转发到任何 OpenAI 兼容端点。同一个网关还能把流量分散到多个模型做 A/B 评测，或者用信号驱动做”阶段路由”——不同任务走不同模型，省成本又提质量。

怎么上手

官方给了三条路径：启动器、独立服务、库嵌入。最常用的启动器方式：

# 1. 安装 uv（若没有）
curl -LsSf https://astral.sh/uv/install.sh | sh
source "$HOME/.local/bin/env"

# 2. 安装 Switchyard 命令行
uv tool install --python 3.10 "nemo-switchyard[cli]"

# 3. 配置 OpenRouter Key 后启动 Agent
export OPENROUTER_API_KEY="你的key"
switchyard launch claude --model switchyard
switchyard launch codex --model switchyard

跑起来后，Claude Code 还是你以为的 Claude Code，但背后可能已经换成开源模型了。

为什么现在火

背景是三重叠加：编程 Agent 普及让”Agent 用哪个模型”成为团队真问题；开源模型质量追上来（Qwen、DeepSeek 等一线开源模型已能打），把流量从闭源 API 导向开源端点成了省钱刚需；英伟达押注”软件生态”——它不只卖卡，还想让你用 NIM、NeMo 全家桶跑模型，Switchyard 就是这张生态牌里的”接线员”。NVIDIA 亲自下场做开源网关，等于官方承认：未来模型是混着用的，接口必须通。

和同类比强在哪

相比 LiteLLM 这类通用代理，Switchyard 的差异点很明确：面向编程 Agent 场景设计，提供 `switchyard launch claude/codex` 这样的一键启动器；协议翻译做得深，OpenAI Chat、Anthropic Messages、OpenAI Responses 三种格式互转，覆盖 Agent 工具实际用到的接口；英伟达出品，天然适配 NVIDIA NIM 和自家硬件生态。指标方面直接输出 Prometheus 格式，请求、错误、延迟、Token 消耗都有。

适合谁、限制是什么

适合：想给团队 Agent 接入开源模型的开发者、做多模型对比选型的人、想省 API 费用又不想被供应商锁定的团队。限制很实在：项目还处于 pre-alpha 阶段，README 明说”实验性软件，不适合生产环境”；API 和算法在 1.0 前会大改；当前只有 804 星，社区生态刚起步，遇到问题要自己啃源码。

一句话结论

Switchyard 是英伟达在”开源模型 + 编程 Agent”交叉口投下的一枚棋子：它不造模型，而是造让模型自由流动的”铁路”。对开发者来说，多了一个把 Agent 从闭源 API 上解放出来的选择——虽然还没到生产级，但方向已经足够清楚。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn