一个地址接入全部大模型:完整兼容 OpenAI 接口协议,多家上游统一聚合、按权重智能路由, 上游故障秒级自动切换,流式输出中断自动续写 —— 你只管调用,可用性交给我们。
完整兼容 /v1/chat/completions 协议,现有 SDK、客户端与应用零改动即可切换接入。
多家上游统一聚合为一个接口,上游密钥由网关托管,客户端无需感知供应商差异。
按路由组与权重分发请求,支持自定义兜底模型,同名模型可精确指定供应商。
无响应上游最多 30 秒即切换下一候选;请求级错误(400/413)即时终止不空烧重试。
SSE 输出中断后自动携带上下文续写拼接,静默断流自动识别,不产出假账与半截假回复。
任务状态实时推送、调用记录、稳定性评分、供应商限流用量,一目了然。