模型蒸馏节省成本计算器
输入Teacher/Student模型单价、日均调用Token量和一次性蒸馏投入成本，计算切换到蒸馏后小模型的每日/每月推理成本节省，以及一次性投入的回本天数。
免费在线工具
Loading…
使用说明
1. 填写Teacher模型和Student模型的单价（美元/百万token）。
2. 填写日均调用Token量。
3. 填写一次性蒸馏投入（美元）。
4. 点击「计算节省与回本周期」查看每日/每月节省金额和回本天数。
5. 点击「加载示例数据」快速体验一组典型参数。
功能介绍
知识蒸馏是用大模型（Teacher）的输出训练一个更小的模型（Student），训练完成后线上推理改用更便宜的Student模型，用一次性的蒸馏投入换取长期推理成本下降。本工具输入：
- Teacher模型和Student模型各自的单价（美元/百万token）
- 日均调用Token量
- 一次性蒸馏投入（通常包含Teacher模型输出标注调用费、训练GPU算力费、数据清洗与人力投入等）
计算出切换前后的每日/每月推理成本，以及蒸馏投入需要多少天才能通过节省的推理成本回本。如果Student单价不比Teacher便宜，工具会提示无法回本。
使用场景
评估是否值得投入资源做模型蒸馏
在启动蒸馏项目前，先用本工具估算量级，判断预计节省是否能在合理周期内覆盖一次性投入。
对比不同Student模型候选的经济性
分别用几个候选Student模型的单价计算节省和回本周期，为选型决策提供成本维度的参考。
常见问题
一次性蒸馏投入应该怎么估算？
通常包含用Teacher模型批量生成训练数据的调用费用、训练Student模型所需的GPU算力租用费、数据清洗标注的人力投入等，建议按实际预算逐项加总后填入。
如果Student模型不比Teacher便宜，结果会怎样？
工具会计算出负的每日节省，并提示「蒸馏投入无法通过推理成本节省回本」，此时蒸馏的意义可能在于降低延迟或摆脱对第三方API的依赖，而非直接省钱。
计算结果考虑了蒸馏后模型效果下降的风险吗？
没有。本工具只做纯成本测算，不涉及Student模型相比Teacher模型的效果损失评估，实际切换前应先在离线测试集上对比两者效果差异，确认可接受再上线。