工具介绍与办公应用

OmniRoute

OmniRoute 是自托管模型网关,可把已连接的模型提供方接到统一端点,通过路由规则处理请求,并在响应中提供所用策略和服务的线索。

OmniRoute 能做什么

OmniRoute 是自托管模型网关,可把已连接的模型提供方接到统一端点,通过路由规则处理请求,并在响应中提供所用策略和服务的线索。

  • 语言模型调用路由管理
  • 智能体运行与模型调用追踪监测
先让一次工作流转清楚

如何使用 OmniRoute

将一次模型请求通过统一网关发送

准备输入

  • 本人有权使用的模型服务账号或 API Key
  • 需要接入的兼容客户端

操作步骤

  1. 启动网关并连接合格的提供方,在仪表盘 Endpoints 页面取得网关密钥。
  2. 将客户端指向本地端点,发送小范围请求,检查返回结果和路由决定。

预期交付物

  • 网关返回的模型结果与路由信息

可用路由依赖提供方资格、限制与条款;网关不会授予模型额度,必须核对实际路由和费用条件。

开始前需要了解

账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。

查看 OmniRoute 官方说明 ↗

← 返回全部 AI 工具