One Endpoint · Every Major SOTA Model
一个端点,直连所有主流 SOTA 模型
原厂直连,输入 / 输出 / 缓存分项计价,不改一行业务代码; 未消耗余额随时全额退回。
https://connect-gateway.tokrouter.dev/v1from openai import OpenAI
client = OpenAI(
base_url="https://connect-gateway.tokrouter.dev/v1", # ← 只改这一行
api_key="sk-…",
)
resp = client.chat.completions.create(
model="claude-opus-5-5", # 换成目录里的任意模型名
messages=[{"role": "user", "content": "Hello!"}],
)一行替换 base_url,现有 SDK 与代码零改动。
示意数据,响应内容、成本与延迟以实际计费为准。
Hello! I am the model behind this endpoint. Same SDK, same code — only base_url changed.
Router · In Your Stack
插在你的厂商与客户端之间
左边是你已经在用的各家模型厂商,右边是你正在用的编码客户端与 SDK —— 中间这一段 路由、鉴权、计费与 fallback 由网关承担,业务代码只改一行 base_url。
MODEL PROVIDERS · 模型厂商
auto fallback · one bill
CODING AGENTS · CLIENTS
模型厂商(渠道陆续开通中)
3
协议兼容 PROTOCOLS
30s
账单同步 SYNC
Live Pricing
价目摆在首页,不用点开
下面是一部分模型(USD / 每 100 万 token,取自计费后台)。完整价目、缓存价与 按次计费规则在定价页。
| 模型 MODEL | 厂商 VENDOR | 输入 INPUT | 输出 OUTPUT | 缓存读 CACHE |
|---|---|---|---|---|
| aliyun-us/qwen3.8-max | 阿里通义 | $2.67 | $8.00 | $0.227 |
| claude-opus-5-5 | Anthropic | $5.33 | $26.67 | $0.267 |
| deepseek-flash | DeepSeek | $0.400 | $1.60 | $0.0080 |
| gemini-3.1-flash-lite | $0.333 | $2.00 | $0.033 | |
| gemini-3.1-pro-preview | $2.67 | $16.00 | $0.267 | |
| gpt-5.4-nano | OpenAI | $0.267 | $1.67 | $0.027 |
原厂直连: OpenAI · Anthropic · Google · DeepSeek · 阿里通义 · 智谱 GLM · 月之暗面 · xAI —— 以及更多,完整列表见模型页。
浏览全部模型 →上表只列了前 6 个模型,完整价目以定价页为准。
Compliance
采购会先问的三件事
价格、数据、法务 —— 这三件事没答清楚,后面都谈不下去,所以放在最前面。
会比直连更贵吗?
平台额度在厂商目录价上有小幅加价(覆盖统一接入、跨境支付与结算);BYOK 自带密钥时 token 费用由你直接付给厂商,网关 0 加价。(消费越高费率越低的档位折扣首发暂未开放,开启后自动生效。)
我的 prompt 去哪了?
请求用于转发与计费,不用于训练或改进模型;传输支持 TLS 1.3(同时兼容 TLS 1.2),数据按 Key 隔离,每个令牌对应独立的网关密钥。本地化部署时 prompt 只发往你放行的厂商(或你内网的自建推理服务)—— 本地留存与出站细节详见企业本地化部署页 FAQ 的「数据会不会经过你们或第三方?」一条。
法务能签吗?
GDPR / CCPA 就绪的数据处理协议可直接签;支持 Google 登录;用量与调用日志可导出;SOC 2 与 ISO 27001 认证中。
数据要求更严?可走企业本地化部署——把 gateway 装进你的网络,prompt 与响应不经过我们、也不经过任何第三方代理,模型请求只连厂商官方 API 地址(用自建推理服务时只连你内网的地址)。
Volume Discount
用量越大,费率越低
按上月(UTC 自然月)由充值余额承担的累计消费评档,下个自然月自动下调调用费率。 月初生效后当月内固定,可升可降(跨月头 72 小时内可能随迟到的上月日志上调,只会更便宜); 新用户首月按标准费率。
首发暂未开放 · 开启后按下列档位自动生效
97 折
上月自付消费达到 $100 – $500 后,下月按 97 折 计费。
95 折
上月自付消费达到 $500 – $2,000 后,下月按 95 折 计费。
90 折
上月自付消费达到 $2,000 以上 后,下月按 90 折 计费。
低于 $100 按标准价;赠送额度消耗不计入档位、也不重复打折。 最高档可省 10%。
完整的档位与计费规则 →Core Capabilities
一个端点,替你处理掉这些麻烦
协议互转与全模态在下一节细讲;这里是与「能不能放心托管」直接相关的那几件事。
01
自动 fallback 与重试
上游抖动、限流或单点故障时自动切换,不再让一次 502 打断整条业务链。
02
原厂直连,不经转售
请求直连各厂商官方 API,输入 / 输出 / 缓存读分项计价,不打包成一个模糊单价。
03
用量与成本约 30 秒内可见
按模型 / 密钥 / 用户切片,每条请求的 token 与费用都能对上账。
04
余额投影成每 Key 月度上限
余额在网关侧校验:软顶先拦、归零硬切断流,脚本跑飞不会刷爆账单。
05
BYOK 自带密钥,0% 加价
接入自己的厂商密钥直连,费用由你与厂商直接结算,网关不加价转售。
06
未消耗余额随时全额退
按未消耗余额 1:1 退回原支付渠道,不扣手续费,无锁定周期与违约金。
One API · Multi-Protocol
一个 API,OpenAI / Anthropic / Gemini 兼容
入站用你已有的三种协议 SDK,出站接 OpenAI / Anthropic / Gemini / DashScope —— 协议不再是选型约束;DashScope 模型可走 OpenAI 兼容前缀,也保留原生 /v1/services/… 端点(见文档)。
INBOUND · 你的 SDK
OUTBOUND · PROVIDER
全部主流 LLM 一个端点,prompt 缓存 + 余额拦截。
claude · gpt · gemini · qwen
文生图按张计费,单价见定价页。
seedream · flux · gpt-image
gpt-4o 系列转写,按 token 计价,输出 srt / vtt。
gpt-4o-transcribe
文/图生视频,create-and-poll 任务式 API。
sora · seedance · veo
WebSocket 低延迟语音对话,一种方言接两家。
gpt-realtime · gemini-live
向量与重排同库调用,RAG 链路一站配齐。
embedding · rerank
Jev 返回带概率的类型化决策(choice / score / noul),不生成文本。
jev
Model Mix-and-Match
混用 + 融合:单一模型达不到的质量
把任务拆开、各层择优,或在同一问题上多模型投票 —— 用标准 API 就能拼,不依赖额外 SDK。
COMPOSITION PIPELINE
顶层闭源模型负责规划与硬推理
claude-opus · gpt-5
开源 SOTA 承载执行体量
glm · qwen · deepseek
能力标准化层对齐输出与工具调用
capability normalization
ENSEMBLE FAN-OUT · N IN → 1 OUT
# 用标准 OpenAI 兼容接口自己拼，不需要额外 SDK
POST /v1/chat/completions { "model": "claude-opus-5-5", "messages": [...] } # 规划
POST /v1/chat/completions { "model": "deepseek-v4-pro", "messages": [...] } # 执行
POST /v1/chat/completions { "model": "glm-5.3", "messages": [...] } # 校验Why 1/10 the Cost?
为什么是 1/10 的成本
TOP-TIER 端到端
$338K/mo
所有环节都用顶层闭源模型:规划、执行、校验同价。
TOKROUTER 编排
$35K/mo
顶层模型只做规划,开源 SOTA 扛执行体量,缓存再削一半。
- ✓
BYOK 无加价
自带密钥,网关不加价转售 token。
- ✓
混用扛执行
开源 SOTA 承载执行体量,单价差一个量级。
- ✓
缓存命中
prompt cache 命中率高的场景降本 50–90%。
* 基于公开定价的示意模型,实际随业务场景与混用比例浮动。
Unified Billing
一份余额,所有模型,签约上游不拿你的数据训练
不必逐家对接供应商、逐份审数据条款。与我们签约的上游,合同一律禁止用客户数据训练(名单与隐私政策、DPA 逐条一致);你只对接一个 API、充值一个余额。
一份协议,不是 N 份
一份 DPA 覆盖全部签约上游,条款以法务定稿版本为准;法务不必为每家供应商重走一遍安全评审。
一个余额,结清全部
预付费 quota 按 token 扣减,失败请求不计费;用量约 30 秒内同步,按用户 / 密钥 / 模型归集。
训练条款前置把关
与我们签约的上游都签有禁止训练的条款,名单与隐私政策、DPA 附件三逐条一致;BYOK(Beta)例外,走你自己的上游账户。
Token Ops
看得见、守得住的 token 支出
可观测
用量与成本约 30 秒内同步,按模型 / 密钥 / 用户切片。
成本归属
按用户 / 密钥归集,每分钱知道花在哪把 Key 上。
预算强制
余额投影成每 Key 月度上限,耗尽即拒绝、归零硬切断流。
准入与审计
所有网关路径都需要 access key;用量与调用日志可导出。
Quickstart
三步,拿到第一个 token
从注册到第一次调用不到一分钟。不需要销售电话,不需要改代码。
01 · SIGN UP
注册开通后即可调用
注册通道按后台开关开放;开放后邮箱或 Google 登录即可调用,用多少付多少,未消耗的自付余额可全额退回。
02 · TOP UP / BYOK
充值,或自带密钥
预付费 quota 按 token 精确扣减;或接入自己的供应商密钥(BYOK),网关 0 加价,账单直达你的供应商账户。
03 · DROP IN YOUR KEY
替换 base_url,完成
一个 OpenAI / Anthropic 兼容端点,粘上 Key,现有代码继续跑。
base_url = "https://connect-gateway.tokrouter.dev/v1" api_key = "sk-••••••••"