端侧AI模型量化体积估算器
输入模型参数量和额外开销百分比，同时估算FP32/FP16/INT8/INT4四档量化精度下的模型体积，对比端侧部署所需的存储空间。
免费在线工具
Loading…
使用说明
输入模型参数量（单位：百万，M）和额外开销百分比（元数据/运行时占用，通常填3~10%），点击「估算体积」查看FP32、FP16、INT8、INT4四种精度下的体积对比表。点击「加载示例数据」可快速体验（15亿参数模型示例）。
功能介绍
体积计算公式为：参数量 × 位宽 ÷ 8 × (1 + 开销百分比)，同时给出FP32(32bit)、FP16(16bit)、INT8(8bit)、INT4(4bit)四档结果，方便直观对比不同量化精度对端侧模型体积的影响幅度（INT8约为FP32的1/4，INT4约为FP32的1/8）。结果按MB/GB自动切换单位显示。纯前端计算，未包含量化算法本身对精度损失或额外校准数据的存储需求。
使用场景
端侧模型部署选型
在手机/嵌入式设备等存储受限场景下，对比不同量化精度的体积差异，选择合适的量化方案。
移动应用包体积预算
评估集成端侧AI模型后对App安装包体积的影响，提前做好体积预算规划。
量化前的技术方案沟通
在实际执行量化前，用估算数据向团队展示不同精度选择的体积权衡，辅助决策讨论。
常见问题
为什么INT8体积正好是FP32的1/4？
因为体积与位宽成正比：INT8是8位，FP32是32位，8÷32=1/4，在参数量相同、无额外开销的情况下体积严格按位宽比例缩小。
额外开销百分比是指什么？
指模型文件中除权重数据外的额外内容，例如模型结构元数据、量化校准参数、运行时索引信息等，通常占总体积的3%~10%，可根据具体推理框架的实际情况调整。
这个估算和实际量化后文件大小完全一致吗？
不完全一致。工具只做体积的理论下限估算，实际量化（尤其是INT4等低位宽）通常需要额外的分组量化参数（如per-channel scale/zero-point）存储开销，真实文件可能略大于本工具的估算值。