把分散在各家平台的模型收敛成一个 OpenAI 兼容接口。所有应用只填一个地址、一个模型名,网关按模型名路由到对应供应商并透传流式响应;换供应商、调价、启停模型都在后台点一下,程序侧零改动。
任何支持 OpenAI 接口的程序改一个 base_url 就能接入。
供应商存地址与密钥,模型挂在供应商下,可一键拉取真实模型列表。
文本、图片、视频、音频分色管理,行内启停。
密钥只存在网关里,不再散落在各个程序的配置文件中。
后台直接给出地址、密钥与多语言接入示例,复制即用。
内网常开,本机与其它设备的应用共用同一套模型配置。