功能
转发路径之外运行的能力
转发是快路径。以下能力按请求逐次判定,不改变你发出的字节。
Features
故障转移
可跨 provider、模型与密钥配置有序回退链。每次尝试使用独立的超时预算,上游变慢不会吃掉整个请求的时限。
failover
负载均衡
在密钥与端点之间按权重分配流量,健康评分依据实际观测到的延迟与错误率调整,而不是固定权重表。
load-balancing
熔断
当某个目标报告凭据、配额、权限或限流问题时,将其暂停轮转;待等待时间结束,再用一次探测确认是否可以继续服务。
circuit-breaking
桌面客户端
同一套网关也能作为 Linux / Windows / macOS 桌面应用运行:一个安装包同时带上网关与控制台,可开机自启、常驻托盘,不需要服务器。
desktop-app
可自托管
单个静态二进制,可用 deb/rpm 安装包或直接解包运行,部署在你自己的网络内;运行时不连接外部控制面。
self-hosted
数据统计与分析
按路由、API Key、provider、模型与归属人统计请求量、Token 与延迟,便于把用量归属到具体团队。
analytics
故障记录与告警
Provider 故障记录为 incident(含持续时长与尝试次数),并推送到 Webhook,带重试与按 Provider 的节流。
capacity-alerts