工具介绍与办公应用

Portkey AI Gateway

通过统一模型网关配置请求路由、负载均衡、重试和回退,连接多家模型服务。

Portkey AI Gateway 能做什么

通过统一模型网关配置请求路由、负载均衡、重试和回退,连接多家模型服务。

  • 语言模型调用路由管理
先让一次工作流转清楚

如何使用 Portkey AI Gateway

为应用配置可验证的模型回退

准备输入

  • 模型提供商密钥
  • 主备模型
  • 测试客户端

操作步骤

  1. 部署网关并配置主模型及回退条件。
  2. 让应用通过统一入口发送正常测试请求。
  3. 模拟可控失败并核对重试、回退响应和调用记录。

预期交付物

  • 模型网关配置
  • 回退验证结果

开源、预发布和企业能力需区分,网关不能消除上游故障或费用。

开始前需要了解

账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。

查看 Portkey AI Gateway 官方说明 ↗

← 返回全部 AI 工具