工具介绍与办公应用
OmniRoute
OmniRoute 是自托管模型网关,可把已连接的模型提供方接到统一端点,通过路由规则处理请求,并在响应中提供所用策略和服务的线索。
OmniRoute 能做什么
OmniRoute 是自托管模型网关,可把已连接的模型提供方接到统一端点,通过路由规则处理请求,并在响应中提供所用策略和服务的线索。
- 语言模型调用路由管理
- 智能体运行与模型调用追踪监测
如何使用 OmniRoute
将一次模型请求通过统一网关发送
准备输入
- 本人有权使用的模型服务账号或 API Key
- 需要接入的兼容客户端
操作步骤
- 启动网关并连接合格的提供方,在仪表盘 Endpoints 页面取得网关密钥。
- 将客户端指向本地端点,发送小范围请求,检查返回结果和路由决定。
预期交付物
- 网关返回的模型结果与路由信息
可用路由依赖提供方资格、限制与条款;网关不会授予模型额度,必须核对实际路由和费用条件。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。