Overview
产品概述
Capabilities
核心能力
企业级专用推理(Enterprise Inference)
将用户选择的开权重模型部署为专用实例,单租户隔离、预留容量,不与其他客户共享;支持客户托管密钥、BYOK/CMK,并提供 OpenAI 兼容 API。
Blackbox Router 统一模型路由
通过一个 OpenAI 兼容端点访问 300+ 开放与封闭模型,内置智能路由、故障转移、提示缓存和成本感知路由;网关强制零数据保留且不训练。
Agents 与开发者工具
提供 Agents API(通过 HTTP 向代码仓库发送编程代理、创建运行、流式日志并开启 PR)、可读取仓库约定的智能终端 CLI、IDE 与 VS Code 扩展;所有表面共用同一个按 token 计费余额。
Use Cases
适用场景
-
01
企业安全推理
在专用单租户部署上运行不能共享的开权重模型,满足安全审查要求,支持 BYOK、数据驻留和审计日志。
-
02
多模型统一接入与成本优化
通过一个端点按需路由到 300+ 模型,按 token 计费、无平台费用与席位费用;智能路由和提示缓存可延长承诺用量。
-
03
编码代理与仓库自动化
通过 Agents API、CLI、IDE 和 VS Code 扩展向代码仓库发送编码代理,创建运行、流式输出日志并自动开启 PR。
Integrations
集成能力
Microsoft Azure
作为 Microsoft AI 合作伙伴,支持企业通过 Azure 进行部署。
OpenAI SDK
提供 OpenAI 兼容的 REST 与流式端点,只需更换 base URL 和 API key 即可继续使用现有代码。