Orq.ai
免费
Orq.ai 是面向企业和开发团队的 AI 工程平台，官方定位覆盖 AI agent lifecycle 的 orchestration、evals、observability 和 governance，并提供 AI Gateway、Agent Runtime、Evaluation、Knowledge Base、Monitoring & Observability 等模块。
Orq.ai 的核心参数与统计
Orq.ai 的官方首页把产品定义为“Build & operate quality AI”，并进一步说明其覆盖 AI agent lifecycle 中的 orchestration、evals、observability 和 governance。它更接近 AI 工程平台，而不是单一聊天机器人或单一模型供应商：核心价值在于把模型路由、Agent 运行、Prompt 与知识库、在线/离线评测、生产追踪和企业治理放进同一个工作台。
| 项目 | 公开信息 |
|---|---|
| 官方入口 | https://orq.ai/ |
| 官方定位 | AI Engineering Platform；Sovereign AI platform for the full AI agent lifecycle |
| 核心模块 | AI Gateway、Agent Runtime、Evaluation、Knowledge Base、Monitoring & Observability |
| 模型覆盖 | 官网首页写明 AI Gateway 可路由 400+ models from 28+ providers；Pricing FAQ 写明 AI Router 支持 300+ models from 20+ providers |
| 免费层额度 | 1 user、50k spans/month、1GB processed data、3 agents、50 agent runs/month、3 deployments、14 day retention、50 API calls/day |
| 当前公开版本线索 | 官方 Changelog Release 4.10 |
| 企业信号 | 官网首页展示 Proudly European、Gartner Emerging Leaders '25 与多个客户 logo |
| 归属地 | 官方结构化数据地址为 Amsterdam, NL |
产品边界：Orq.ai 不负责训练基础模型，也不是纯 RAG 数据库或传统监控工具。它适合已经在构建 LLM 应用、Agent 或多模型工作流的团队，把“构建、上线、观测、评测、改进、治理”串成闭环；如果只是个人聊天或偶发 API 调用，平台能力会显得偏重。
Orq.ai 的用户与市场认可
Orq.ai 的市场信号主要来自官方可见的三类材料：官网首页展示的客户 logo 与 Gartner Emerging Leaders '25 标识，定价页给出的免费与企业套餐结构，以及文档站持续更新的 Changelog。首页客户区域可见 Capgemini、Brand New Day、Vattenfall、AFAS Software、hear.com、bunq、Moneybird、YOCO 等名称，说明其对外叙事已经面向企业 AI 工程和生产系统，而不只是开发者实验工具。
企业采用信号：官网把自身标注为 Proudly European，并在产品文案中强调 sovereign AI、governance、cost visibility、compliance 和 risk。对欧洲企业、金融科技、客服、知识管理和需要欧盟数据驻留叙事的团队，这类定位比单纯“模型接入工具”更贴近采购语境。
未公开项：Orq.ai 没有在公开页面给出可核验的总注册用户数、ARR、付费客户总量、留存率或行业占比。客户 logo 和 Gartner 标识只能说明市场背书与行业关注，不能推导为确定商业规模。
Orq.ai 的成本优势：把 Agent 运行、观测和评测成本放在同一张账上
Orq.ai 的成本优势不是“模型单价最低”，而是把 AI Gateway、Agent Runtime、Observability、Evaluations、Knowledge Bases 和平台 API 放在统一计费与治理框架里。对多模型、多团队、多 Agent 的组织，价值主要来自减少重复接入、重复日志埋点、重复评测系统和重复权限治理。
C端/个人：Orq.ai 不属于普通消费者聊天工具。免费 Developer 层适合个人开发者或小团队验证第一个 AI 功能，官方定价页公开 1 user、50k spans/month、3 agents、50 agent runs/month、3 deployments 和 50 API calls/day，足够做原型，但不适合高并发生产系统。
开发者/API：Growth 层采用按席位与用量扩展的方式，公开价格为每席每月 35 欧元，并列出 100k spans/month、超额 7 欧元/100k spans、1GB processed data、超额 3 欧元/GB、500 agent runs/month、超额 0.01 欧元/run 等维度。这种结构适合先把少量生产流量纳入观测和评测，再按 spans、数据处理量和 Agent run 扩展。
企业/私有化：Enterprise 为定制报价，覆盖 custom seats、custom spans、custom processed data、unlimited agent runs/deployments/webhooks、SSO/SCIM、Audit logs、SOC 2 report、HIPAA BAA、AWS/Azure Marketplace、on-prem 或 private cloud。真实采购成本取决于席位、流量、保留期、部署形态、合规条款和支持等级，以官方实时页面和合同为准。
Orq.ai 的主要功能
- AI Gateway：用统一 API 操作多模型，官网写明可跨 400+ models from 28+ providers 路由请求，并支持 fallbacks、retries 与 cost visibility。适合把模型选择从业务代码中抽离出来，降低供应商切换成本。
- Agent Runtime：支持构建、运行和管理智能体，官方文档包含 Agent Studio visual builder、API 构建 Agent、memory、tools、knowledge integration 与 streaming 等入口。适合把多步任务从 Prompt 调用升级为可追踪执行链。
- AI Observability：跟踪 logs、traces、threads、latency、token spend 和 failure modes。对生产系统而言，关键不是“有没有日志”，而是能否把每次工具调用、检索步骤和模型响应放在一条 trace 中回放。
- Evaluation 与 Experiments：支持在线与离线评测、LLM-as-judge、代码和人工 review。Release 4.10 引入统一 Review 屏幕和 Evaluator Studio，说明 Orq.ai 把质量验收放在持续迭代流程里，而不是上线前的一次性测试。
- Knowledge Base / Memory Stores：定价页列出知识库与 memory storage，并支持 RAG-as-a-Service、chunk explorer、embedding、reranking、RAG evaluators 和 document processing add-on。适合需要把私有数据接入 Agent 的团队。
- Governance 与企业安全：企业层覆盖 RBAC、SSO/SCIM、Audit logs、SOC 2 report、HIPAA BAA、custom DPA、custom rate limits 和 private cloud/on-prem。它的适用点在于把 AI 调用纳入组织级权限和审计，而不是让每条业务线各自维护模型密钥和日志。
Orq.ai 的模型与版本演进
Orq.ai 是持续迭代型云平台，官方 Changelog 已经形成 4.x 版本脉络。当前公开主线集中在 AI Gateway 独立化、模型花园、Skills、Traces、评测、MCP 和企业治理能力上。
| 版本节点 | 公开版本说明 | 主要变化 |
|---|---|---|
| Release 4.10 | 官方 Changelog 最新可见节点 | 统一 API key 管理，AI Gateway 独立成专门区域，重建 Model Garden，加入统一 Review 屏幕、Evaluator Studio、Agent Schedules |
| Release 4.9 | 官方 Changelog 历史节点 | 引入原生 Skills、Traces 的 Errors view、LangGraph trace visualization、Azure Foundry 模型接入优化 |
| Release 4.8 | 官方 Changelog 历史节点 | 加入 Router Policies、Guardrail Rules、categorical evaluators、重新设计 homescreen 和 predefined MCP servers |
| Release 4.4 | 官方 Changelog 历史节点 | Orq MCP Server 提供 23 tools，用于管理 agents、datasets、experiments 等对象 |
| Release 4.2 / 4.3 | 官方 Changelog 历史节点 | sovereign AI Router、EU data residency、300+ models 统一计费等能力进入主线 |
版本判断：Orq.ai 的版本号不是本地软件包版本，而是云平台功能发布节点。上线评估时应关注对应 API、SDK、Gateway、Observability 和评测能力是否已在目标工作区可用，并确认保留期、模型覆盖、企业安全条款是否匹配实际环境。
Orq.ai 的技术优势
机制：统一模型网关 -> 效果：降低供应商耦合 -> 场景：多模型生产路由。AI Gateway 把模型、Provider、重试、Fallback、成本和限流放在统一入口，业务代码不必为每个 Provider 单独维护接入逻辑。团队可以按成本、延迟、质量或区域要求调度模型。
机制：Trace-first 可观测 -> 效果：缩短定位链路 -> 场景：Agent 生产排障。Orq.ai 的 Observability 把 Agent、LLM call、tool execution、retrieval step、latency 和 token spend 放进 trace。对多步 Agent 来说，这比只记录最终回答更有价值，因为失败经常发生在工具调用、检索或中间判断。
机制：评测与 Review 内嵌 -> 效果：把质量门禁前移和持续化 -> 场景：Prompt/Agent 版本发布。Release 4.10 的统一 Review 屏幕和 Evaluator Studio 让实验、Annotation Queue 和生产 Trace 的反馈更容易复用，减少“线上失败样本无法回到测试集”的断裂。
机制：治理对象平台化 -> 效果：权限、成本与合规可统一审计 -> 场景：企业 AI 平台。企业功能覆盖 RBAC、SSO/SCIM、Audit logs、SOC 2 report、HIPAA BAA 和 private cloud/on-prem 选项，使安全团队能够把 AI 调用纳入现有合规流程。
Orq.ai 的如何使用
| 使用入口 | 典型步骤 | 适配对象 |
|---|---|---|
| Web Studio | 创建账号或工作区 -> 配置项目、模型、Agent、Prompt 与知识库 -> 运行实验和评测 -> 查看 traces 与 dashboards | 产品、工程、AI 平台团队 |
| AI Gateway / API | 获取 API Key -> 接入统一 Gateway -> 配置模型与路由策略 -> 启用 observability、guardrails 与成本追踪 | 后端工程、LLMOps、平台工程 |
| Enterprise / Private Cloud | 与官方确认 SSO、SCIM、审计、数据驻留、Marketplace 或私有化部署 -> 试点业务线 -> 扩展到组织级治理 | 中大型企业、安全与合规团队 |
典型落地路径是先选一条高频但低风险的 AI 调用链路，接入 Gateway 和 Observability，观察 spans、latency、token spend、失败率和 trace 完整度；随后把线上失败样本沉淀为 datasets 和 evaluators；最后再引入 Agent schedules、Skills、Router Policies、SSO、审计和成本归因。
Orq.ai 的产品定价
Orq.ai 采用 Free Developer、Pay as you go Growth 和 Custom Enterprise 的分层结构。公开价格与额度可能随官网调整，实际以官方实时 Pricing 页面和合同为准。
| 套餐 | 官方公开价格 | 关键额度与能力 | 适合对象 |
|---|---|---|---|
| Free Developer | 免费 | 1 user、50k spans/month、1GB processed data、10 MB memory storage、3 agents、50 agent runs/month、3 deployments、14 day retention、50 API calls/day | 原型、PoC、小团队验证 |
| Growth | 35 欧元/seat/month | 100k spans/month，超额 7 欧元/100k spans；1GB processed data，超额 3 欧元/GB；500 agent runs/month，超额 0.01 欧元/run；unlimited users/agents/deployments | 准生产与增长团队 |
| KB / Memory Stores Add-on | 500 欧元/月 | Unlimited retrievals、ingestion、parsing、chunking、2.5GB document processing，超额 0.10 欧元/MB | RAG 与知识库密集场景 |
| Teams Add-on | 300 欧元/月 | Enterprise SSO、SAML/OIDC、SSO enforcement、fine-grained RBAC、dedicated Slack channel | 多团队协作与权限治理 |
| Enterprise | Custom | Custom seats/spans/data/storage、unlimited agent runs、SSO/SCIM、Audit logs、SOC 2 report、HIPAA BAA、on-prem/private cloud | 大型组织、重合规与高流量场景 |
价格边界：Orq.ai 的费用不替代底层模型供应商账单。团队仍需要同时核算 OpenAI、Anthropic、Google、Azure、私有模型或其他 Provider 的调用成本。Orq.ai 的价值在于把这些调用的路由、可观测、评测与治理成本透明化。
Orq.ai 的应用场景
- 多模型 AI Gateway：在同一应用中按成本、质量、延迟或合规要求路由模型。验收重点是 fallback 命中率、P95/P99 延迟、模型账单归因和供应商故障时的业务可用性。
- Agent 生产可观测：对客服、销售助理、内部知识助手或自动化运营 Agent 记录完整 trace。验收重点是工具调用可回放、错误分类、token spend、失败样本回收和 trace 检索效率。
- LLM 评测与版本发布：把 Prompt、Agent、模型和工具变更纳入 offline/online evals。验收重点是评测集覆盖率、人工 review 速度、线上指标漂移告警和版本回滚路径。
- RAG 与企业知识接入：用 Knowledge Base、Memory Stores、chunking、reranking 和 RAG evaluators 管理私有数据问答。验收重点是检索命中率、幻觉率、数据更新延迟和权限边界。
- 企业 AI 治理：把 SSO、RBAC、审计、PII filtering、rate limits 和 cost attribution 统一到 AI 平台层。验收重点是审计日志完整度、团队权限隔离、预算归因和合规文档。
Orq.ai 的适用人群
- AI 平台工程团队：需要统一管理模型网关、Agent Runtime、可观测、评测、密钥、预算和团队权限。前提是组织已经有多条 AI 调用链路或准备将 AI 功能正式上线。
- 产品与应用工程团队：需要快速构建 AI Agent、Prompt、知识库和评测流程，同时保留 API 与 Web Studio 两种协作入口。它适合产品经理、工程师和领域专家共同迭代 AI 功能。
- LLMOps / 质量团队：需要把线上 Trace、失败样本、评测集、Review 和实验串联起来，减少 Prompt 或模型变更带来的隐性回归。
- 安全、合规与采购团队：关注 SSO/SCIM、Audit logs、SOC 2、HIPAA、数据驻留、private cloud/on-prem 和 Marketplace 采购路径。该人群需要在 PoC 前明确数据边界和合同条款。
不适配边界：只做个人聊天、低频单模型调用、没有生产上线计划、没有日志治理或评测需求的场景，不一定需要 Orq.ai 这样的完整平台；如果团队的主要问题是基础模型训练或数据标注，也应选择更垂直的模型训练、标注或数据平台。
Orq.ai 的总结与展望
Orq.ai 的核心竞争力在于把 AI Agent 的生产链路拆成可治理对象：Gateway 管模型入口，Runtime 管 Agent 执行，Observability 管真实行为，Evaluation 管质量反馈，Governance 管权限、成本和合规。这使它更适合企业级 AI 工程，而不是一次性 Demo。
当前限制也很清楚：公开页面没有披露公司营收、活跃客户总数、完整行业分布或每个企业功能的合同细节；不同页面对模型覆盖有 300+ 与 400+ 的表述差异，应以具体工作区和官方实时文档为准；Enterprise、私有化、数据驻留、SLA 和 HIPAA BAA 等条款需要商务确认。
落地建议集中在渐进式验证：先接入一条真实 AI 调用链路，量化 spans、trace 完整度、失败率、延迟、token spend、评测通过率和人工 review 成本；指标稳定后再扩展到多模型路由、Agent Runtime、Knowledge Base、Router Policies 和组织级 SSO/RBAC。企业采购前应复核数据驻留、日志保留、审计导出、私有化部署、Marketplace 结算和底层模型账单分摊。
版本信息
- Orq.ai Release 4.10 ：官方 Changelog 的 Release 4.10 统一 API key 管理，将 AI Gateway 独立成专门区域并重建 Model Garden，同时加入统一 Review 屏幕、Evaluator Studio 和 Agent Schedules；官方未在该页面公开精确日期。
- Orq.ai Release 4.9 ：官方 Changelog 的 Release 4.9 引入原生 Skills、Traces 中的 Errors view、LangGraph trace visualization 和 Azure Foundry 模型接入优化；官方未在该页面公开精确日期。
- Orq.ai Release 4.8 ：官方 Changelog 的 Release 4.8 覆盖 Router Policies、Guardrail Rules、categorical evaluators、重新设计的 homescreen 和 predefined MCP servers；官方未在该页面公开精确日期。
用户评价