从协议兼容、故障转移到模型治理与可观测,一站式覆盖企业级接入需求。
OpenAI / Anthropic / Gemini 原生协议兼容,一套 Key 接入全部上游,业务代码零改造。
可配置多上游故障转移链,按上游×模型粒度自动熔断异常渠道,保障请求稳定不中断。
按 Key 配置渠道白名单与模型白名单,下游仅见授权资源,安全合规可审计。
完整调用记录、用量统计与健康监控,实时掌握每个模型、每个 Key 的表现。
支持峰谷定价、上下文阶梯计价与折扣倍率,上游成本与对外计费同源核算。
SSE 真流式、工具调用、视觉桥接与联网检索,完整覆盖生产级使用场景。
只需修改 Base URL 与 API Key,即可立即调用全部已接入模型。流式响应、工具调用、多模态全部兼容。
from openai import OpenAI client = OpenAI( base_url="https://api.yonghengtiaodong.cn/v1", api_key="sk-your-gateway-key", ) resp = client.chat.completions.create( model="gpt-6-luna", messages=[{"role": "user", "content": "你好"}], stream=True, ) for chunk in resp: # 自动路由到可用上游,无需关心渠道 print(chunk.choices[0].delta.content, end="")
无论是应用开发、企业内部平台还是多租户服务,网关都能统一承接。
快速接入多家模型能力,无需逐一对接上游,把精力放在业务逻辑上。
统一出口与用量管控,按团队或项目分配 Key,成本清晰可审计。
按客户分配模型与渠道权限,独立计费与限流,资源隔离互不影响。