多模型路由降本优化计算器
对比「全部请求走单一基准模型」与「按简单/中等/复杂三档路由到不同价位模型」两种方案的成本差异，输入每日请求量、平均Token数、各档占比与单价，计算路由后每日预估节省金额与降本百分比。
免费在线工具
Loading…
使用说明
1. 填写每日请求量、平均每次请求Token数，以及基准方案（全部走单一模型）的单价。
2. 分别设置简单/中等/复杂三档的占比（%）和对应模型单价（美元/百万token），三档占比之和应为100%。
3. 点击「对比成本」查看每日节省金额、降本百分比及各档明细。
4. 点击「加载示例数据」快速体验一组典型的60/30/10路由比例。
功能介绍
多模型路由（model routing）是指按请求复杂度把简单问题分流到便宜的小模型、复杂问题才用昂贵的旗舰模型处理，而不是所有请求都走同一个模型。本工具让你填写：
- 每日请求总量、平均每次请求Token数
- 基准方案（全部走单一模型）的单价
- 路由方案中简单/中等/复杂三档各自的请求占比和对应模型单价
计算后对比两种方案的每日总成本，给出预估节省金额和降本百分比，并列出每一档的请求量、单价与分摊成本明细。若三档占比之和不等于100%会给出提示。
使用场景
评估是否值得引入路由层降低LLM调用成本
在决定开发请求复杂度分类器之前，先用本工具估算潜在节省空间，判断投入路由层的开发成本是否划算。
调整路由比例找到成本与体验的平衡点
尝试不同的简单/中等/复杂占比组合，观察节省金额如何变化，为路由策略的分流阈值设计提供数据参考。
常见问题
三档占比（简单/中等/复杂）的数据从哪里来？
通常来自历史请求的复杂度分类统计，可以是人工抽样标注，也可以用一个轻量分类器/小模型自动判断复杂度后统计得到的比例。
计算结果包含路由判断本身的额外成本吗？
不包含。本工具只对比推理调用本身的成本差异，路由判断（分类器调用或规则引擎）产生的额外成本需要另外估算并从节省金额中扣除。
如果三档占比之和不是100%会怎样？
工具会正常计算但在结果里显示警告提示，此时路由方案的总请求量和基准方案不完全对应，结果仅供参考，建议修正占比后重新计算。