Portkey 免费

-

Portkey 是面向 AI 应用的全栈 API 网关与可观测性平台,提供统一模型接入、调用监控、安全护栏、成本管理和 MCP 网关能力。开源(MIT)与 SaaS 双模式部署,日均处理超百亿 token,服务 3000+ GenAI 团队。

Portkey 产品界面

Portkey

核心参数与统计

Portkey 是面向 AI 应用的全栈 API 网关与可观测性平台(类型:D - 生产力/业务端应用,同时具备 A - Agent/MCP 网关能力),定位在 AI 应用与 LLM 提供商之间的基础设施层。它解决的底层问题是:当应用从调用一个模型扩展到调用数十个模型时,认证、路由、监控、成本和安全的复杂度呈指数级增长,需要一个统一的控制平面来管理这一切。

项目 公开信息
产品定位 AI 应用全栈 API 网关与可观测性控制平台
核心能力 AI 网关、可观测性、安全护栏、提示词管理MCP 网关AI 治理
部署方式 SaaS 云端 + 开源自托管(MIT 许可)
开源许可 MIT(网关核心)、Apache 2.0(模型定价数据库)
GitHub Stars 12.5k
GitHub Forks 1.2k
日处理 Token 百亿级(10B+ tokens/day)
服务团队 3000+ GenAI 团队
支持模型 1600+ LLM,覆盖 45+ 提供商
合规认证 SOC2、HIPAA、GDPR、ISO27001、CCPA
平台语言 TypeScript(95.8%)、HTML
归属地 US(美国旧金山)

一句话简评:Portkey 是"AI 应用的 DevOps 中控台"——当一个工程团队开始管理 3 个以上的 LLM 时,编写 API 集成代码的工作量远小于排障、核算成本和控制质量的工作量,而 Portkey 把这部分"看不见的活"做成了标准化产品。

2026 年关键事件:Palo Alto Networks 已完成对 Portkey 的收购,将其能力纳入 AI 安全与治理产品矩阵。这标志着 AI 网关从独立工具向网络安全巨头基础设施组件的战略升级。

用户与市场认可

Portkey 的市场定位处于 AI 基础设施的"网关与可观测性"层,这是一个随着企业 AI 应用从原型验证走向生产部署而快速膨胀的细分市场。

社区与 GitHub 认可:开源网关仓库获得 12.5k stars、1.2k forks,103 位贡献者。仓库活跃度高,81 个 Release 版本,主分支在过去两个月内仍有代码提交。社区规模方面,Discord 社区约 2k 成员,贡献者涵盖来自全球的独立开发者和企业工程师。

企业客户与行业覆盖:官网公布的客户包括 Qoala(保险科技)、Ario、Haptik(对话式 AI)、Snorkel AI(数据标注与 AI 开发)、RVO Health(医疗健康)、Perficient(IT 咨询)等行业代表性企业。客户评价显示,Portkey 在"30 天内部署到生产有境""集中管理 25+ GenAI 用例""年均成本优化"方面获得了明确的正向反馈。财富 500 强制药公司和 Fortune 500 客户也在使用。

市场地位佐证:G2 获得开发者与 AI 团队的高评分;被多位行业分析师在 AI 基础设施与工具相关报告中提及。2026 年被 Palo Alto Networks 收购,说明其技术价值获得了网络安全领域的头部认可。收购后 Portkey 的 AI 网关能力将整合到 Palo Alto 的安全平台中,可能改变独立工具的市场竞争格局。

与竞品的生态位差异:相较 Cloudflare AI Gateway(CDN 巨头的附属功能)、LiteLLM(轻量开源替代)、OpenRouter(模型聚合代理),Portkey 的差异化在于"网关 + 可观测性 + 护栏 + MCP"全栈覆盖,而非单一的请求转发层。其 SaaS 控制台的仪表盘深度和护栏规则数量(40+ 预置规则)是其竞争壁垒。

成本优势

Portkey 采用"开源社区版免费 + SaaS 分层订阅"的双轨定价,覆盖从个人验证到企业级合规的全谱段需求。

C 端/个人开发者(开源版):开源网关基于 MIT 许可,可完全免费自托管。单机部署只需 Node.js 和 npm,通过 npx @portkey-ai/gateway 即可启动本地网关。成本仅为服务器费用(低配云服务器每月约 5-15 美元)。功能集涵盖通用 API、回退与重试、负载均衡、基本仪表盘。适合个人开发者验证概念和构建非关键应用。

开发者/小团队(SaaS 免费层):SaaS 平台提供 Developer 计划(免费),每月 10k 条记录日志,3 天日志保留期30 天指标保留期。包含 AI 网关全功能(通用 API、回退、负载均衡、重试、超时)、可观测性(日志、追踪、反馈、自定义元数据)、提示词管理(3 个模板)、简单缓存和确定性护栏。免费层已覆盖 PoC 和原型验证的完整场景,但超出 10k 日志后仅停止记录而非阻断请求。

生产团队(Production 计划):每月 49 美元,包含 100k 条记录日志。超出部分按每 100k 请求 9 美元计费,最高至 300 万请求。日志保留 30 天,指标保留 90 天。新增语义缓存、无限制提示词模板、基于角色的访问控制(RBAC)、服务账户 API Key、护栏系统(LLM 护栏与合作伙伴护栏)、告警功能。Production 计划适合已进入生产有境、每天处理数万到数十万次 LLM 调用的团队。

企业/合规敏感组织(Enterprise 计划):定制定价,支持每月 1000 万+ 记录日志、自定义保留周期、私有云部署VPC 托管、数据湖导出SSO、细粒度预算与速率限制、自定义护栏钩子与高级评估模板、专属上线支持与优先工单。合规层面覆盖 SOC2 Type 2、HIPAA、GDPR,可签署 BAA(业务合作协议)。对金融、医疗、政务等受监管行业来说,Enterprise 计划是落地的必要条件。

隐性成本与采购提示

  • 延迟开销:网关代理层引入约 <1ms(开源版本地部署)到 5-20ms(SaaS 跨区域)的额外延迟。对于实时对话和流式响应场景,建议在生产前用真实负载做延迟对比测试。
  • 自托管运维负担:开源版需要自行管理 Node.js 运行时、数据库(默认 SQLite,生产建议 PostgreSQL)、反向代理、高可用和备份。这部分人力成本不应忽略。
  • SaaS 超额费用:Production 计划超出 100k 条日志后每 100k 请求 9 美元,高频调用场景下月度费用可能从 49 美元快速攀升。需提前测算日均调用量并选择适当的计划层级。
  • 锁定风险:一旦深度集成 Portkey 的配置路由、护栏规则和提示词模板,迁移到替代方案需要重写部分集成代码。建议在 PoC 阶段验证迁移路径。

主要功能

Portkey 不是单一功能的 API 代理,而是六个功能模块的集成平台。这些模块之间的协同效应才是其核心竞争力。

  • AI 网关(AI Gateway):通过统一的 OpenAI 兼容 API 端点接入 1600+ LLM,覆盖 OpenAI、Anthropic、Google Gemini、Cohere、Mistral、Together AI 等 45+ 提供商。支持自动回退(主模型失败时切换到备用模型)、负载均衡(按权重分配流量到多个 API Key 或提供商)、自动重试(指数退避策略,最多 5 次)、请求超时控制。协同效应:路由规则与可观测性联动——当一个提供商出现高延迟或错误率飙升时,自动回退逻辑直接由可观测性数据触发,无需人工介入。

  • 可观测性(Observability):实时追踪每次 LLM 调用的首字延迟(TTFT)、总耗时Token 消耗、错误类型与状态码。支持分布式追踪(Trace)、用户反馈收集、自定义元数据注入和灵活过滤。协同效应:可观测性数据直接驱动成本管理——每个请求的 Token 消耗实时换算为美元金额,无需额外统计逻辑。

  • 安全护栏(Guardrails):40+ 预置护栏规则,覆盖输入验证、输出合规、敏感词过滤PII 自动脱敏、关键词阻断等。支持确定性护栏(规则引擎)和 LLM 驱动的护栏(模型评估),可导入自定义护栏钩子。协同效应:护栏规则与网关路由深度绑定——在请求发送到 LLM 前做输入过滤,在返回用户前做输出审计,一个配置同时控制前后两个方向的安全策略。

  • 提示词管理(Prompt Engineering Studio):创建、版本管理和 A/B 测试提示词模板。提供 Playground 在线调试有境,支持变量注入、版本回滚和 API 端点直接调用。协同效应:提示词的版本号可嵌入可观测性数据——追踪"哪个版本的 prompt 产生了更好的用户反馈",将工程实验与效果度量闭有。

  • MCP 网关(MCP Gateway):集中管理 Model Context Protocol(MCP)服务器的认证、访问控制和可观测性。支持身份转发(将用户身份逐传给后端 MCP 服务器)、即时撤销访问权限、完整工具调用日志。兼容 Claude Desktop、Cursor、VS Code 及任何 MCP 兼容客户端。协同效应:MCP 网关的审计日志与平台可观测性统一存储,一个仪表盘查看 API 调用和工具调用两种流量。

  • AI 治理(AI Governance):基于 RBAC 的资源层级管理、组织级审计日志SSO 单点登录、预算与速率限制、虚拟 API Key 管理。支持按应用、团队、用户维度追踪成本归因。

【专家视点·核心洞察】:Portkey 的模块设计存在一条隐蔽的"价值叠加链":单个模块(如网关路由)的价值有限,但网关 + 可观测性 + 护栏 + 提示词管理组合使用时,数据的交叉引用产生了"单一模块无法实现"的系统级能力——例如,护栏拦截的输出日志直接影响提示词模板的迭代方向,可观测性中的延迟数据自动触发回退路由。这种"数据闭有"才是 Portkey 区别于 LiteLLM 或自建 Nginx+Prometheus 方案的本质差异。

模型与版本演进

相关信息未公开,以官方实时页面为准。

技术优势

Portkey 的技术架构围绕"代理层(Proxy)→ 控制平面(Control Plane)→ 数据平面(Data Plane)"三层分离设计,不是简单的反向代理,而是具备 AI 场景特化能力的全栈中间件。

架构链路AI 应用 → Portkey SDK/API → 网关代理 → 路由引擎 → 护栏引擎 → 可观测性管道 → LLM 提供商。控制平面处理配置、路由规则和用户管理,数据平面处理实际请求转发和日志收集,二者分离使控制平面的变更不影响数据平面的延迟。

极轻量代理内核:开源网关的 JavaScript 包体积仅 122KB,部署后单实例内存占用极低,本地部署延迟 <1ms。这使其可以嵌入到已有应用的 Sidecar 模式运行,也可以作为独立网关部署在 Kubernetes Sidecar 或 Cloudflare Worker 中。轻量化的代价是部分高级功能(语义缓存、高级护栏)仅在 SaaS/企业版可用。

智能路由与重试机制:支持基于成本、延迟、优先级的多维路由策略。重试采用指数退避(Exponential Backoff)策略,最大 5 次重试,避免连锁雪崩。负载均衡支持加权轮询,可按 API Key 级别分配流量比例——这对多供应商策略和多区域部署尤其关键。

护栏引擎的层级设计:护栏分为输入护栏(请求发送前执行)和输出护栏(模型返回后执行),两者拼接成完整的"请求消毒 → 模型推理 → 输出审计"管线。预置规则涵盖安全类(PII 脱敏、关键词拦截)、质量类(长度限制、格式验证)和自定义类(正则表达式LLM 评估)。护栏的执行顺序和阻断行为可配置,支持软阻断(记录日志但放行)和硬阻断(直接拒绝)。

MCP 网关的企业级扩展:在 Model Context Protocol 生态中,Portkey 是首个提供企业级网关的商业化方案。核心创新在于"单次认证,逐跳授权"模式——用户在网关处完成一次认证,网关将用户身份(邮箱、团队、角色)逐传给后端 MCP 服务器,同时记录每次工具调用的完整上下文。这解决了 MCP 原生协议中缺乏认证和审计的问题。

合规与安全架构:获得 SOC2、HIPAA、GDPR、ISO27001、CCPA 等认证。数据加密方面,传输层 TLS 1.3,存储层 AES-256。PII 脱敏在网关节点的内存中完成,敏感数据不落盘。企业版支持 VPC 私有部署和自定义数据保留期限,满足金融和医疗行业的合规约束。

如何使用

Portkey 提供三种接入路径,按使用深度递增排列。

路径一:本地网关快速启动(开源版,2 分钟)

# 安装并启动本地网关
npx @portkey-ai/gateway
# 网关运行在 http://localhost:8787/v1
# 管理控制台在 http://localhost:8787/public/

启动后即可使用 OpenAI 兼容的 SDK 调用任何支持的模型:

from portkey_ai import Portkey

client = Portkey(
    provider="openai",  # 可选: anthropic, bedrock, groq 等
    Authorization="sk-***"  # 对应提供商的 API Key
)

response = client.chat.completions.create(
    messages=[{"role": "user", "content": "什么是 AI 网关?"}],
    model="gpt-4o-mini"
)

高级配置(路由、护栏、重试)通过 Config 对象注入:

config = {
    "retry": {"attempts": 5},
    "output_guardrails": [{
        "default.contains": {"operator": "none", "words": ["敏感词"]},
        "deny": True
    }]
}

client = client.with_options(config=config)
client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "测试请求"}]
)

路径二:SaaS 控制台(推荐生产使用)

  1. 访问 https://app.portkey.ai/signup 注册账号
  2. 在控制台中添加 LLM 提供商 API Key(支持虚拟 Key 管理)
  3. 获取 Portkey 网关地址,将应用中 LLM 调用的 base_url 指向该地址
  4. 在控制台配置路由规则、护栏策略、告警通知和预算上限

SaaS 版无需维护基础设施,日志和指标自动持久化,适合没有专门运维团队的场景。

路径三:MCP 网关集成

MCP 客户端(如 Claude Desktop、Cursor、VS Code)直接配置 Portkey 网关地址,通过网关访问所有 MCP 服务器。网关统一处理认证、权限和审计。

接入方式 适合场景 维护要求 费用
开源本地网关 PoC、个人项目、开发测试 自行运维 Node.js 实例 免费
SaaS 控制台 生产有境、团队协作 无需运维 Developer 免费 / Production $49/月
企业私有部署 合规敏感、数据主权要求 企业自行或 Portkey 托管 定制定价

集成兼容性:Portkey 的 API 完全兼容 OpenAI SDK 的调用签名,因此迁移时只需修改 base_urlapi_key 两行代码。官方 SDK 覆盖 Python、Node.js、REST,同时提供 LangChain、LlamaIndex、CrewAI、Autogen、Phidata 等框架的集成插件。

产品定价

Portkey 的定价结构分为四个层级,核心差异在于日志容量、保留周期和合规功能。

维度 开源版 Developer(免费) Production($49/月) Enterprise(定制)
月日志配额 不限(自管理) 10k 条 100k 条 1000 万+ 条
超出日志 无限制 停止记录,不阻断请求 $9/每 100k,最高 3M 定制
日志保留 取决于自托管存储 3 天 30 天 自定义
指标保留 取决于自托管存储 30 天 90 天 自定义
AI 网关 ✅ 完整 ✅ 完整 ✅ 完整 ✅ 完整
可观测性 基础仪表盘 日志+追踪+反馈 全部+告警 全部+自定义导出
提示词管理 3 个模板 无限制模板 无限制模板
护栏 确定性护栏 确定性护栏 LLM+合作伙伴护栏 自定义钩子+高级评估
缓存 简单缓存 简单缓存 简单+语义缓存 所有缓存类型
RBAC/SSO RBAC RBAC+SSO
合规认证 SOC2/HIPAA/GDPR
私有部署 自托管 VPC/私有云

免费层的实际使用提示:Developer 计划的 10k 条/月日志配额适用于原型验证和小流量测试。超出后平台仍正常处理请求,只是不再记录日志。对于日均调用量 <300 次的轻量项目,免费层是可持续的。Production 计划的 49 美元/月覆盖日均约 3000 次调用且有完整日志,是大多数生产团队最经济的起步选择。

企业版采购建议:Enterprise 计划无公开定价,需要联系销售获取报价。建议在 PoC 阶段先使用 Production 计划验证功能覆盖度,确认需要 SSO、私有云部署或自定义数据保留等企业级功能后再发起商务洽谈。Palo Alto Networks 收购后,企业版可能整合到 Palo Alto 的安全平台中,定价模式可能发生变化。

应用场景

Portkey 的适用场景集中在"多模型管理"和"AI 生产运维"两个维度,以下四类场景已经过规模化验证。

  • 多模型统一接入与灾备:平台型 AI 产品需要同时调用 OpenAI、Anthropic、Google 等多个模型以平衡成本和质量。Portkey 提供单一接入端点,当主模型降级或超时时自动回退到备用提供商。核验重点:支持的 45+ 提供商列表是否覆盖当前和计划中的模型选型;回退切换的延迟影响是否在可接受范围内。

  • LLM 调用成本追踪与优化:企业内多个项目、多个团队同时使用 AI API,成本分散难以归因。Portkey 的虚拟 Key 和 RBAC 机制可按项目、团队、用户维度拆分成本,配合缓存策略(简单缓存 + 语义缓存)降低重复查询的开销。核验重点:成本数据的准实时性(官方未公开刷新间隔);成本归因的维度是否满足财务对账需求;缓存命中率在真实工作负载下的表现。

  • AI 应用生产监控与告警:LLM 调用的延迟波动、错误率飙升Token 消耗异常是生产有境的常见问题。Portkey 的可观测性仪表盘实时展示 TTFT、TPM、错误分布等关键指标,支持与 Slack、PagerDuty 等告警工具集成。核验重点:告警规则的可配置粒度是否足够(按模型、按应用、按错误类型等);SLA 指标是否满足运维要求(官方显示 99.9% uptime)。

  • MCP 服务器集中治理:团队使用 Claude Desktop、Cursor 等工具连接多个 MCP 服务器时,认证分散、权限混乱、缺乏审计。Portkey 的 MCP 网关提供统一认证层,支持即时权限撤销和完整工具调用日志。核验重点:兼容的 MCP 客户端列表(Claude Desktop、Cursor、VS Code 已验证);身份转发是否支持自定义用户属性。

不适配边界:以下场景不建议引入 Portkey:(1)只调用 1-2 个 LLM 且调用量极低(日均 <100 次)的个人项目——引入代理层的复杂度超过其收益;(2)对端到端延迟有极其严格要求(要求 <50ms)且不能容忍任何额外跳转的实时系统——网关的 <1ms(本地)到 5-20ms(SaaS)开销可能影响体验;(3)完全离线或内网隔离有境且无计划连接外部 LLM——网关的核心价值之一是多提供商路由,单模型内网场景用 Nginx 即可;(4)已经有成熟的 API 管理基础设施(如 Apigee、Kong)且不需要 LLM 特有能力——传统 API 网关可以覆盖部分功能但缺少 Token 核算和护栏等 AI 特性。

适用人群

Portkey 的多层定价和双模式部署使其覆盖了从个人开发者到全球企业的全谱段用户。

  • AI 应用开发者与独立开发者:通过开源版或免费 SaaS 层,在 2 分钟内搭建本地网关,快速实验不同模型的组合方案。落地提示:建议先通过开源版验证 Portkey 的基本路由和观测功能,确认模式匹配后再决定是否迁移到 SaaS。开源版与 SaaS 版的功能集不一致(开源版不含语义缓存和高级护栏),需提前了解差异。

  • MLOps / AI 平台工程师:负责组织内 AI 应用的生产化部署、成本管控和监控告警。Portkey 的 RBAC、虚拟 Key、成本归因和告警集成是日常运维的核心工具。落地提示:重点关注可观测性仪表盘的覆盖度——是否能够区分"模型延迟高"和"网关代理延迟高"两个不同根因;建议在 PoC 阶段模拟生产流量验证告警的准确性和及时性。

  • AI 安全与合规工程师:负责 AI 应用的输出合规、数据脱敏和安全审计。Portkey 的 40+ 护栏规则PII 自动脱敏、审计日志和合规认证(SOC2/HIPAA/GDPR)是核心卖点。落地提示:护栏规则的效果需要在真实业务数据上验证,特别是 PII 脱敏对中文人名、身份证号等格式的识别准确率;对于受监管行业(金融、医疗),企业版的 BAA 签署和数据隔离方案是采用的前提条件。

  • AI 平台产品经理与技术决策者:评估和采购 AI 基础设施工具。Portkey 的"开源免费试用 → SaaS 生产部署 → 企业版合规升级"路径提供了低风险的评估链路。不适配边界:如果团队的主要需求是"找一个模型聚合 API 便宜接入",OpenRouter 或 LiteLLM 可能更轻量;如果核心痛点是"单一模型的质量不够",Portkey 不能替代模型本身的质量优化。

  • MCP 生态开发者与 Agent 构建者:构建和发布 MCP 服务器,或使用 MCP 客户端连接多个工具。Portkey 的 MCP 网关解决了 MCP 生态中缺乏认证和审计的核心问题。落地提示:MCP 网关目前处于较早期阶段,API 稳定性和功能边界可能在版本迭代中变化,建议关注官方 changelog。

总结与展望

Portkey 通过"开源网关获取社区信任 + SaaS 控制台交付企业价值 + MCP 网关卡位 Agent 生态"的三层策略,在 AI 基础设施的"网关与可观测性"这一细分赛道建立了明确的技术和品牌位势。其 2026 年被 Palo Alto Networks 收购意味着 AI 网关正从开发者工具升级为网络安全基础设施的核心组件。

当前的核心优势:12.5k GitHub stars 和 3000+ 企业客户验证了产品和市场的匹配度;6 大功能模块(网关、可观测性、护栏、提示词MCP、治理)的闭有设计在同类工具中覆盖度最全;多层合规认证(SOC2/HIPAA/GDPR)使其在受监管行业有明确的入场资格;Palo Alto Networks 的收购为其提供了企业级销售渠道和安全品牌背书。

当前的主要限制与不确定项:(1)开源版与企业版之间的功能差距——语义缓存、高级护栏SSO 等功能仅在付费版可用,社区版用户可能低估迁移到生产有境的实际成本。(2)网关层延迟 —— 虽然本地版 <1ms,但 SaaS 版跨区域延迟 5-20ms 对部分场景仍然不可忽视,且官方未公开不同区域的延迟 SLA。(3)Palo Alto 收购后的产品路线图不确定性——独立工具时期的特性优先级和商业化策略可能发生调整,社区用户需关注其开源策略是否受母公司影响。(4)MCP 网关作为较新模块,生态成熟度和 API 稳定性仍在快速迭代中。(5)对非英语语言(特别是中日韩)的护栏规则效果和 PII 识别精度缺少公开评测数据。

采购与采用风险评估:对于个人开发者和小团队,开源版或免费 SaaS 层的零成本试用路径不存在实质风险,建议作为多模型管理的默认起点。对于已进入生产有境的中等规模团队,Production 计划(49 美元/月)提供了超越自建方案的成本效益比,核心评估指标是"延迟增量"和"功能覆盖度与替代方案的差距"。对于需要合规认证和数据主权的大型企业,Enterprise 计划是必选项,建议在 PoC 阶段验证三个关键指标:护栏规则在真实业务数据上的拦截准确率、延迟增量在生产负载下的 P95 值、以及 Palo Alto 收购后的产品支持连续性保障。采购合同中应关注数据隔离条款SLA 细则和产品路线图承诺,特别是涉及私有云部署时的数据出口和迁移权利。

Portkey 的版本演进

Portkey 的产品谱系分为两条线:开源网关(Gateway)SaaS 控制平台。前者以 GitHub Release 为版本载体,后者持续在线更新,两者功能集可能不同步。

开源网关主线版本

版本 日期 关键变化
v1.0.0 2024-09 首个稳定版发布,多模型路由、基础可观测性
v1.5.0 2025-02 引入配置对象(Config)体系,支持条件路由与输出护栏
v1.8.0 2025-04 自动回退与负载均衡策略增强,集成 LangChain/LlamaIndex
v1.10.0 2025-05 发布 AI Guardrails 系统,内置 40+ 预置护栏规则
v1.12.0 2025-08 Gateway 2.0 预发布分支,企业版核心能力合并到开源版
v1.14.0 2025-10 语义缓存MCP 网关预览版、护栏系统升级
v1.15.0 2025-12 多模态支持(视觉、音频 TTS/STT、图像生成)、实时 API
v1.15.2 2026-01 当前最新稳定版,修复与稳定性优化

SaaS 平台里程碑

SaaS 平台不遵循严格的版本号命名,但公开可见的产品迭代节点包括:

  • 2024-Q3:SaaS 控制台上线,提供日志查看与基础监控
  • 2025-Q1:Prompt Engineering Studio 发布,支持模板版本管理与 Playground
  • 2025-Q2:Guardrails 模块上线,40+ 预置规则
  • 2025-Q3:MCP 网关预览,RBAC 与 SSO 支持
  • 2025-Q4:企业版私有云部署方案、数据湖导出
  • 2026-Q1:Palo Alto Networks 收购完成,Gateway 2.0 预发布

模型定价数据库(Portkey Models)

Portkey 还维护了一个独立的开源项目 Portkey-AI/models,提供 2300+ 模型40+ 提供商的实时定价数据。该数据库被 Portkey 网关内部用于成本核算,同时也开放给社区使用。许可为 Apache 2.0。

限制与不适配场景

该工具在以下场景中存在使用限制:

场景适配边界 需要高度行业专业知识的任务、对输出格式有严格规范的场景、需要零错误的自动化流程可能效果不达预期。AI 输出应作为初稿或辅助参考,最终结果需人工核验。

技术限制 上下文长度有限、复杂推理准确性可能不足、免费版有使用额度。建议在正式采用前通过试用验证核心场景的可用性。

版本信息

  • gateway v1.15.2 :开源网关稳定版本,支持 1600+ LLM 路由、自动回退、负载均衡与输出护栏。
  • gateway v1.15.0 :引入多模态支持(视觉、音频、图像生成),扩展实时 API 能力。
  • gateway v1.14.0 :增强语义缓存与护栏系统,新增 MCP 网关预览版。
  • gateway v1.12.0 :推出 Gateway 2.0 预发布分支,合并企业版核功能到开源版本。
  • gateway v1.10.0 :推出 AI Guardrails 系统,内置 40+ 预置护栏规则。
  • gateway v1.0.0 :开源 AI 网关首个稳定版发布,支持多模型路由与基础可观测性。

用户评价

  • 加载评价中...