OpenRouter
免费
OpenRouter 是业界规模最大的统一 LLM API 网关，聚合 AI DevOps 领域 400+ 模型与 70+ 推理提供商，通过智能价格路由、自动故障转移Prompt 缓存和 Zero Data Retention 等机制，为开发者提供 OpenAI 兼容的单点接入，消除供应商锁定，降低推理成本并提升可用性。
OpenRouter：统一 LLM API 网关的深度拆解
OpenRouter 不是一个独立的大模型，也不是一个聊天应用——它是连接 AI 应用与 400+ 大模型之间的"智能交换机"。2023 年初创立以来，它从最早的 LLM 市场（marketplace）演变为今天全球最大的统一 AI 网关，月处理 100 万亿 tokens，服务超过 1000 万全球开发者，并获得 CapitalG（Alphabet）、a16z、Menlo Ventures 和 Sequoia Capital 等顶级机构的联合投资。
工具类型判定：主类型——【基础大模型 / API 基础设施】（统一推理 API 网关，聚合多提供商模型接入）；次类型——【Agent / MCP / 自动化工具】（提供 Agent SDK 与 MCP Server，支持工具调用与自动化工作流）。
核心参数与统计
| 项目 | 当前公开信息 |
|---|---|
| 产品定位 | 统一 LLM API 网关，聚合多提供商推理能力 |
| 交付形态 | API 端点（/api/v1/chat/completions）+ Web 控制台 + Chat 界面 |
| 模型规模 | 400+ 活跃模型（涵盖文本、图像、音频、视频、嵌入、重排序等模态） |
| 提供商数量 | 70+ 推理提供商（OpenAI、Anthropic、Google、Meta、xAI、DeepSeek 等） |
| 月处理量 | 100 万亿 tokens |
| 全球用户 | 1000 万+ |
| 接入应用 | 25 万+ 应用，覆盖 420 万+ 全球用户 |
| API 兼容 | 完全兼容 OpenAI Chat Completions 格式 |
| 官方 SDK | TypeScript（@openrouter/sdk）、Python（openrouter）、Agent SDK（@openrouter/agent） |
| MCP 支持 | 官方远程 MCP Server：https://mcp.openrouter.ai/mcp |
| 公司成立 | 2023 年初 |
| 总部/归属地 | US |
| 投资方 | CapitalG（Alphabet）、a16z、Menlo Ventures、Sequoia Capital |
一句话简评：OpenRouter 把"选模型、换提供商、管成本、保可用"这四个本应由基础设施层解决的问题，用一个 OpenAI 兼容的 API 端点全部封装了。
关键参数解读：400+ 模型不是静态陈列，而是通过实时 uptime 监控和价格排序动态可用的。100 万亿月 tokens 意味着 OpenRouter 已经是全球 AI 推理流量的关键枢纽之一，其路由算法在真实流量中持续迭代优化。
用户与市场认可
公开数据信号
- 官方披露：月处理 100T tokens、1000 万+ 全球用户25 万+ 应用接入——这些数据来自官网 about 页与首页，属于公开可核验的一级信息。
- 融资背书：2026 年 5 月，《纽约时报》报道 OpenRouter 完成 1.13 亿美元融资，投资方包括 CapitalG（Alphabet 旗下投资机构）；同期《华尔街日报》报道其完成 4000 万美元融资。投资阵容涵盖 CapitalG、a16z、Menlo Ventures、Sequoia Capital——这在大模型基础设施赛道中是顶级配置。
- 开发者社区：OpenRouter 在 GitHub（OpenRouterTeam）、Discord、X/Twitter 等渠道有活跃社区，官方提供 Status Page（status.openrouter.ai）实时监控服务状态。
市场对标分析
| 对比维度 | OpenRouter | 直接调用单一提供商 API | 自建多模型路由层 |
|---|---|---|---|
| 接入模型数 | 400+（开箱即用） | 1 个 | 取决于工程投入 |
| 故障转移 | 自动（基于实时 uptime 数据） | 无 | 需自研 |
| 价格优化 | 默认价格负载均衡 + 可选手动排序 | 固定价格 | 需自建竞价逻辑 |
| 维护成本 | 零（托管网关） | 低 | 高（需专职团队） |
| Prompt 缓存 | 多提供商自动/显式缓存支持 | 取决于提供商 | 需自建 |
| 数据策略控制 | 灰度控制ZDR 强制、提供商标记 | 取决于提供商 | 需自建 |
边界声明：以上融资信息来源于 NYT/WSJ 公开报道，具体估值和条款未披露。若企业采购需要 SLA 条款、合规认证（SOC2 等）或企业客户案例，需直接联系 OpenRouter 商务团队获取最新材料。
成本优势
C 端/个人开发者
- 免费层：25+ 免费模型（如
nvidia/nemotron-3-embed-1b:free），4 个免费提供商，每日 50 次请求限制。适合原型验证和个人学习。 - Pay-as-you-go：无最低消费、无锁定。平台加价仅 5.5%（按提供商清单价格计），远低于自建多提供商接入的工程与运维成本。
- BYOK（自带密钥）：每月前 $25,000 的清单价格推理量免平台费，超出部分仅收 5% 费用。
开发者/API 调用
- 隐性成本节省：通过智能路由自动选择最低价提供商，在同等模型能力下常能获得比单一提供商更优的价格。例如 DeepSeek V3 等热门模型在多家提供商部署，OpenRouter 默认按价格加权路由。
- 缓存节省：OpenRouter 的 Prompt Caching 在支持缓存读取的提供商处可节省 75%-90% 的输入 tokens 费用（Anthropic 0.1x、DeepSeek 0.1x、Google 0.25x 等）。
- 无最低消费：预付费额度可跨所有模型和提供商使用，无月度最低承诺。
企业级
- 平台费率折扣：企业合约可协商更低的平台加价比例。
- BYOK 扩展：每月前 $200,000 清单价格推理量免平台费，超出部分 5%。
- 可选专用速率限制：避免多租户争抢资源。
- 发票支付：支持对公结算。
免费的真相：免费层的 50 次/日限制对生产级应用不够；免费模型通常是较小或量化版本，不适合复杂推理。Pay-as-you-go 虽然无最低消费，但 5.5% 的平台费在超大规模调用下是一笔可观开销，需要与企业直接采购提供商的折扣价格做对比。
隐性成本：集成 OpenRouter 本身几乎零成本（OpenAI 兼容 SDK 即插即用），但需要团队理解其路由语义（provider、order、sort、data_collection 等参数）才能发挥全部价值。企业级 SSO、审计日志、数据策略治理等配置也需要额外的初始配置投入。
主要功能
1. 统一 AI 推理 API
通过一个 OpenAI 兼容的 /api/v1/chat/completions 端点，即可访问 400+ 模型，覆盖文本生成、图像理解与生成、音频/语音、视频理解、嵌入、重排序、代码补全等模态。开发者无需为每个提供商注册账号、管理多个 API Key 和不同的 SDK。
2. 智能提供商路由
OpenRouter 的核心差异化能力。默认按价格负载均衡（inverse square of price），同时考虑最近 30 秒的提供商可用性。支持多种自定义路由策略：
- 手动排序（
provider.order）：指定提供商优先级列表 - 性能排序（
provider.sort）：按price、throughput、latency排序 - 性能阈值（
preferred_min_throughput/preferred_max_latency）：设置百分位吞吐/延迟偏好 - 分区路由（
sort.partition）：model（默认，按模型分组）或none（跨模型全局排序） - 快捷方式：
model:nitro（按吞吐排序）、model:floor（按价格排序）
3. 自动故障转移与 uptime 优化
实时追踪所有提供商端点的响应时间、错误率和可用性。当主提供商故障时，自动切换到次优提供商，用户无感。历史 uptime 图表可公开查阅，服务状态页实时更新。
4. Prompt Caching（多提供商统一抽象）
对 Anthropic（显式 cache_control，5 分钟/1 小时 TTL）、OpenAI（自动 + 显式缓存）、DeepSeek（自动）、Google Gemini（隐式 + 显式缓存）、Z.AI（自动）、Grok（自动）、Moonshot AI（自动）、Groq（自动）、Alibaba Qwen（显式缓存）等提供商的缓存机制进行统一抽象，开发者只需在请求中添加 cache_control 标记，OpenRouter 自动映射到各提供商的缓存语义。自动启用 Provider Sticky Routing，通过 session_id 保持同一会话路由到同一提供商以最大化缓存命中率。
5. 数据策略与安全控制
- Zero Data Retention（ZDR）：按请求粒度强制路由到不保留提示数据的端点
- Data Collection Policy：通过
data_collection: 'deny'排除会存储用户数据的提供商 - Distillable Text Enforcement：
enforce_distillable_text: true仅路由到允许文本蒸馏的模型 - Provider-Specific Headers：透传 Anthropic Beta Features（如 Interleaved Thinking、Structured Outputs）
6. Agent SDK 与 MCP Server
- Agent SDK（
@openrouter/agent）：基于 Zod schema 定义工具，支持多轮对话循有、工具执行、状态管理，通过callModel单次调用完成"发送→工具调用→结果回传→最终响应"的完整代理循有。 - MCP Server：官方远程 MCP 服务器（
https://mcp.openrouter.ai/mcp），零安装配置，让 AI 编码助手（Claude Code、Cursor、Codex 等）实时拉取 OpenRouter 的模型列表、价格、余额、使用排名和文档搜索。
7. Chat、Rankings、Labs 等 Web 工具
- Chat：在线对话界面，可直接体验不同模型
- Rankings：模型使用排行（按 tokens 消耗周趋势排序）
- Models：完整的模型浏览与比较页面
- Apps：精选集成 OpenRouter 的应用展示
- Labs：实验性功能预览区
专家视点：OpenRouter 的真正协同效应在于——路由 + 缓存 + 故障转移 + 数据策略四者联动。缓存依赖 Sticky Routing 保持同一提供商的会话亲和性；故障转移在缓存失效时自动切到次优提供商；数据策略在路由决策前过滤不合规提供商。开发者不需要在应用代码中关心"这个提供商是否支持缓存""那个提供商会不会存数据"——这些都在路由层一次完成。
模型与版本演进
当前主线
OpenRouter 以 SaaS 模式持续迭代，没有传统意义上的公开版本号。其能力演进体现在模型目录扩展、路由算法优化、安全与数据策略功能增强和 SDK/工具链更新上。
关键里程碑
| 时间 | 里程碑 | 说明 |
|---|---|---|
| 2023 年初 | 创立 | 作为最早的 LLM marketplace 启动 |
| 2024 | 规模扩张 | 模型数持续增长，建立价格负载均衡默认路由策略 |
| 2025 初 | 早期在线服务 | 完成核心网关基建，聚合主流模型提供商 |
| 2026 初（v2 阶段） | Auto Router、Prompt Caching、BYOK | 引入智能路由、缓存抽象、自带密钥功能 |
| 2026 年中 | MCP Server、Agent SDK | 扩展至 AI 代理和开发工具生态 |
| 2026 年 5 月 | 1.13 亿美元融资 | CapitalG 领投，估值和战略资源大幅提升 |
| 2026 年 7 月 | 400+ 模型70+ 提供商 | 覆盖文本、图像、音频、视频、嵌入等全模态 |
版本评估建议
对生产团队而言，关注重点应是：OpenRouter 是否持续支持所需的最新最强模型、路由策略是否满足延迟/成本要求、数据策略与企业合规需求对齐，而不是追求某个固定的"版本号"。OpenRouter 的 Status Page 和 Changelog 是追踪服务演进的最佳渠道。
技术优势
架构链路
用户应用 → OpenRouter API (/api/v1/chat/completions)
↓
路由引擎（实时 uptime + 价格 + 性能数据）
↓
┌─────────┼─────────┐
↓ ↓ ↓
Provider A B ... 70+
↓ ↓ ↓
Model A1 B1 ...控制流：用户请求携带 model（或 models 数组做 fallback）+ 路由参数（provider 对象），OpenRouter 路由引擎综合提供商实时健康度、价格、性能阈值和用户策略偏好，选出最优提供商端点并发起推理呼叫。
数据回流：推理结果 + usage 信息（含缓存命中详情）→ 原路返回用户，同时在 Activity 页面保留可追踪记录。
为什么 OpenRouter 更快/更省/更稳
- 更省：默认价格负载均衡，按 inverse square of price 加权路由，市场机制驱动价格竞争。多提供商竞价使热门模型价格趋向最低可用水平。
- 更稳：实时 uptime 追踪 70+ 提供商，30 秒窗口内的故障自动纳入路由决策。单提供商故障不影响整体服务可用性。
- 更快：边缘部署（边缘节点靠近用户），可选
throughput排序路由到吞吐最高的提供商端点。:nitro快捷方式一键启用。 - 更灵活：从"完全自动"（默认负载均衡）到"完全控制"（手动
order+allow_fallbacks: false），支持从价格、延迟、吞吐到数据策略的多种路由维度组合。
工程踩坑指南（开发者必读）
- 路由参数与 fallback 的相互作用：
provider.order指定了优先级顺序，但默认启用 fallback。如果希望"只用列表中指定的提供商，其他一概不用"，必须同时设置allow_fallbacks: false。否则当列表内的提供商都不可用时，OpenRouter 会自动 fallback 到全量提供商池——这在某些合规场景下可能是安全隐患。 - 缓存语义差异：不同提供商的缓存机制差异大。Anthropic 显式
cache_control需要设置 breakpoint，OpenAI 自动缓存在 1024 tokens 以上自动生效，Google Gemini 需要插入cache_control但只使用最后一个 breakpoint。OpenRouter 做了抽象但仍存在行为差异（如 Anthropic 的 5 分钟 vs 1 小时 TTL 成本不同）。建议在切换模型或提供商时检查实际cached_tokens和cache_discount值。 - BYOK 费用结构：BYOK 模式下，每月前 $25K（PAYG）/$200K（Enterprise）的清单价格推理量免平台费，超出部分收 5%。注意这是按"清单价格"而非"实际消耗"计算。如果通过 BYOK 拿到了提供商的折扣价格，平台费仍按原清单价格的比例计算，需要仔细核算。
- 模型 slug 命名规则：OpenRouter 使用
provider/model-name格式（如anthropic/claude-sonnet-4.5）。:nitro和:floor是后缀快捷键。~openai/gpt-latest是最新别名（latest alias），自动解析到最新旗舰模型。建议生产有境钉住具体版本号（snapshot），避免最新别名意外切换到破坏性变更。
如何使用
相关信息未公开，以官方实时页面为准。
产品定价
收费模式
OpenRouter 采用预充值 + 按量计费模式，不收取月订阅费。用户先购买 Credits（最低 $5），按实际 tokens 消耗扣除，额度跨所有模型和提供商通用。
三层方案对比
| 维度 | Free | Pay-as-you-Go | Enterprise |
|---|---|---|---|
| 平台费率 | 无 | 5.5%（按清单价格） | 可协商折扣 |
| 可用模型 | 25+ 免费模型 | 400+ 全部模型 | 400+ 全部模型 |
| 可用提供商 | 4 个免费提供商 | 70+ 全部提供商 | 70+ 全部提供商 |
| 速率限制 | 50 次请求/天 | 高全局限制 | 可选专用限制 |
| BYOK 免平台费上限 | — | 每月 $25K 清单价 | 每月 $200K 清单价 |
| 超额 BYOK 费率 | — | 5% | 5% |
| 支付方式 | — | 信用卡、加密货币等 | 对公发票 |
| Prompt Caching | 视模型而定 | ✓ | ✓ |
| 自动路由 / 提供商排序 | ✓ | ✓ | ✓ |
| 预算与支出控制 | — | ✓ | ✓ |
| Activity 日志与导出 | — | ✓ | ✓ |
| 管理 API Key | — | ✓ | ✓ |
| SSO/SAML | — | — | ✓ |
| 合约 SLA | — | — | ✓ |
| 支持渠道 | 社区支持 | 邮件支持 | SLA + 专属 Slack 频道 |
隐性成本与风险
- 平台加价：5.5% 看起来不高，但在大规模调用（月消费 $10 万+）下是一笔显著开支。此时企业直签提供商折扣 + Enterprise 方案可能更优。
- 模型价格波动：OpenRouter 的模型价格由提供商设定，OpenRouter 会跟随调整。频繁的价格变动可能影响成本预测。
- 免费模型的可用性：免费模型可能随时被提供商撤回或降级，不适合生产有境依赖。
应用场景
场景一：AI 应用开发与多模型实验
开发者在构建 AI 产品时，需要在多个模型间对比效果（如 Claude vs GPT-5 vs Gemini）。传统方式需要维护多个提供商账号和 SDK，OpenRouter 通过统一 API 将切换成本降为"改一个参数"。适合：AI 创业团队、独立开发者、产品原型验证。
效率推演：从"分别注册 5 个提供商账号、管理 5 个 SDK 版本、写 5 套 fallback 逻辑"降到"1 个 API Key、1 个 SDK、1 套路由参数"。工程接入时间从 2-3 天缩短到 1-2 小时。
场景二：生产级推理高可用架构
对于面向用户的实时 AI 产品，单提供商故障 = 业务停摆。OpenRouter 的自动故障转移基于实时 uptime 数据，30 秒内检测并切换。企业可通过 provider.order + allow_fallbacks 控制故障转移范围，配合 Status Page 和 Activity 日志实现可观测性。适合：客服机器人、实时翻译AI 搜索、代码补全等需要高可用推理的业务。
场景三：跨模型成本优化
运营大规模 AI 推理的企业（如社媒内容生成、电商文案批量生产），通过 OpenRouter 的价格负载均衡自动路由到最经济的提供商端点。结合 Prompt Caching 减少重复输入 tokens 费用。开发者还可设置 max_price 防止超预算。适合：内容平台、电商运营SaaS 产品中高频 AI 调用的场景。
成本推演（仅供参考，非官方承诺）：对于大词汇量多轮对话场景，启用 Prompt Caching + 价格路由后，有效 token 成本可能降低 40%-70%（取决于缓存命中率和提供商价格分布）。实际节省因使用模式而异。
场景四：AI 代理与自动化工作流
利用 Agent SDK 的 callModel 构建带工具调用的 AI 代理，自动完成多步推理任务。结合 MCP Server 让 AI 编码助手实时感知可用模型和价格，实现更智能的模型选择。适合：自动化运维、代码审查 Agent、智能客服工作流、自动化测试。
场景五：数据合规敏感的行业应用
金融、医疗、法务等对数据留存敏感的行业，可通过 data_collection: 'deny'、zdr: true 和 provider.only 限定请求仅路由到符合数据策略的提供商。Enterprise 方案的 SSO/SAML 和审计日志进一步满足合规要求。
不适配场景
- 完全离线部署：OpenRouter 是托管云服务，不支持私有化部署或 air-gapped 有境。
- 需要自定义模型微调：OpenRouter 不提供模型训练/微调能力。
- 极端低延迟场景（< 50ms）：路由层引入的额外网络跳转可能增加延迟，虽然边缘部署减轻了这一问题，但无法与同一数据中心内直接调用相比。
- 超大规模调用（月消费 $100 万+）：在此规模下，5.5% 的平台费总和可观，与提供商直签 + 自建轻量路由层的总拥有成本需要做详细对比。
适用人群
- 个人开发者与独立黑客：用免费层验证想法，用 PAYG 灵活扩展，一个 API Key 访问 400+ 模型，无需管理多提供商账号。
- AI 创业团队：快速多模型实验，降低工程投入。路由和故障转移能力让小团队也能提供企业级推理可用性。
- 中型 SaaS 与产品团队：通过价格路由和 Prompt Caching 持续优化推理成本。Activity 日志和预算控制帮助管理团队支出。
- 企业数字化与 AI 基础设施团队：Enterprise 方案的 SSO、审计日志、数据策略路由、合约 SLA 满足组织级治理需求。
- AI 代理 / Agent 开发者：Agent SDK 和 MCP Server 提供了从模型调用到工具执行的完整链路。
劝退人群：
- 需要完全离线私有化部署的政企客户
- 需要深度定制底层模型训练/微调的 AI 研究团队
- 对数据主权要求极端严格（必须境内数据中心）且 OpenRouter 未覆盖该区域的企业
- 仅使用单一提供商且用量极大的客户（直签可能更便宜）
总结与展望
OpenRouter 的核心竞争力在于：用一个 OpenAI 兼容的 API 端点，封装了从模型选择、提供商故障转移、价格优化到数据策略治理的全套推理基础设施能力。它不是"又一个 API 提供商"，而是 API 提供商的提供商——通过聚合 70+ 上游推理服务，在下游为开发者提供更强的议价能力、更高的可用性和更灵活的路由控制。
当前局限：作为托管服务，存在网络跳转的固有延迟开销；在超大规模调用下的平台费比例需要通过 enterprise 谈判优化；合规认证的公开信息有限。
采购/采用风险评估：
- 供应商锁定风险低——OpenRouter 兼容 OpenAI 格式，切换回直连提供商只需改
baseURL。 - 价格风险中等——平台加价 5.5% 在可控范围，但大规模使用需定期对比直签方案的总成本。
- 可用性风险低——多提供商冗余架构天然优于单点依赖，但需注意路由策略配置不当可能缩小故障转移范围。
- 合规风险取决于配置——
data_collection: 'deny'和zdr: true提供了基本的合规控制，但 SOC2 等认证情况未公开，需在商务有节确认。
后续观察方向：
- OpenRouter 是否会推出自有模型或独家托管模型，改变其"纯网关"定位
- 路由算法的持续优化（如基于成本+质量的多目标优化是否会替代纯价格路由）
- Enterprise 方案的合规认证进展（SOC2、HIPAA 等）
- 中国市场/亚太节点扩展情况
- MCP Server 生态的第三方集成深度
OpenRouter 的使用方式
快速上手：API 调用
OpenRouter 完全兼容 OpenAI Chat Completions 格式，将 baseURL 指向 https://openrouter.ai/api/v1 即可。以下是最简调用示例：
curl https://openrouter.ai/api/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-d '{
"model": "~openai/gpt-latest",
"messages": [
{"role": "user", "content": "Hello, how are you、"}
]
}'Python SDK 示例
from openrouter import OpenRouter
import os
client = OpenRouter(api_key=os.getenv("OPENROUTER_API_KEY"))
response = client.chat.send(
model="~openai/gpt-latest",
messages=[{"role": "user", "content": "What is the meaning of life、"}]
)
print(response.choices[0].message.content)TypeScript SDK 示例
import { OpenRouter } from '@openrouter/sdk';
const client = new OpenRouter({
apiKey: process.env.OPENROUTER_API_KEY,
});
const completion = await client.chat.send({
model: '~openai/gpt-latest',
messages: [{ role: 'user', content: 'Hello' }],
});
console.log(completion.choices[0].message.content);MCP Server 配置
在 AI 编码助手中添加一行配置即可使用：
https://mcp.openrouter.ai/mcp通过 OAuth 登录后，AI 助手即可实时查询 OpenRouter 的模型列表、价格、余额、使用统计和文档。
各入口对照表
| 入口 | 典型动作 | 适配团队 |
|---|---|---|
| API 端点 | 获取 API Key → 发送 Chat Completions 请求 | 开发者、工程团队 |
| Web 控制台（Settings） | 管理密钥、查看 Activity、设置预算/策略 | 团队管理员 |
| Chat 界面 | 在线对话体验不同模型 | 产品经理、评测人员 |
| Rankings | 浏览模型排行和使用趋势 | 技术选型决策者 |
| MCP Server | AI 编码助手实时查询模型/价格/余额 | AI 应用开发者 |
| Agent SDK | 构建带工具调用的 AI 代理 | AI 代理工程师 |
落地路径：先用免费层做 1-2 个场景的 API 调试和模型对比；确认模型和提供商后，切换到 PAYG 方案并设定 provider.order 锁定首选提供商；在生产有境中启用 max_price 防止意外超支，设置 data_collection: 'deny' 确保数据合规。
版本信息
- OpenRouter Online ：官方以在线服务持续迭代为主，暂无统一公开版本号与官方精确日期。持续新增模型与提供商支持，迭代智能路由与安全能力。
- OpenRouter v2 (Growth Stage) ：引入 Auto Router、Prompt Caching、BYOK、MCP Server 及 Agent SDK，进入企业级能力扩展阶段。
- OpenRouter Early Online ：暂无官方精确日期，按公开页面可见里程碑作为最小版本脉络记录。早期专注于聚合主流模型提供商，建立基础路由能力。
用户评价