LLM Temperature与Top-P采样可视化

用一组内置的12个模拟token概率分布,直观展示温度(Temperature)和核采样(Top-P)参数如何改变大模型输出的随机性,非真实模型推理。

免费在线工具
Loading…

使用说明

  1. 拖动“Temperature”滑块(0~2,步长0.05),观察概率分布随温度升高变得更平坦、随温度降低变得更集中的过程。
  2. 拖动“Top-P”滑块(0~1,步长0.05),观察累积概率超过设定阈值的低概率token被截断(灰色显示)后的效果。
  3. 也可以直接点击预设按钮(确定性、平衡、创意、狂野、默认)快速套用一组常见的T/Top-P组合。
  4. 查看上方三个统计卡片:分布熵(越高越随机)、有效Token数(概率大于0的token数量)、当前概率最高的token及其百分比。
  5. 下方Token概率分布条形图会实时刷新,柱子长度代表相对概率大小,被Top-P截断的token会以浅灰色、低透明度显示。
  6. 点击“加载示例(默认分布)”可以随时重置Temperature=1.00、Top-P=1.00的原始分布。

功能介绍

  • 内置12个固定的模拟token及其基础概率(用水果名称代表词表中的候选token),本地模拟温度和Top-P采样效果,不调用任何真实大模型API
  • Temperature滑块通过“取对数logits→除以T→重新softmax”的标准算法调整分布锐度
  • Top-P滑块按概率降序累加,只保留累积概率不超过阈值的token并重新归一化,其余token概率归零
  • 实时计算并展示分布熵(Entropy)、有效Token数量、最高概率token及其百分比三项统计指标
  • 5组预设参数组合(确定性/平衡/创意/狂野/默认)一键应用,快速体验不同采样策略的效果
  • Token概率分布条形图可视化,直观区分“保留”与“被Top-P截断”的token

使用场景

理解Temperature参数含义
调用OpenAI/Anthropic等API前,通过拖动滑块直观感受temperature从0到2变化时输出分布从“确定”到“随机”的连续过程,辅助选择合适的参数值。
理解Top-P(核采样)截断机制
观察Top-P从1.0降到较小值时,低概率候选token是如何被逐步排除出采样范围的,帮助理解Top-P与Temperature的配合逻辑。
培训或分享中做参数教学演示
给团队新人或学生讲解LLM采样参数时,用这个可视化工具代替纯文字公式讲解,更直观地展示分布变化。
对比常见参数预设的分布差异
通过5个预设按钮快速切换“确定性”“平衡”“创意”“狂野”等常见配置,对比它们对应的熵值和有效token数量差异,辅助确定业务场景下的默认参数。

常见问题

这个工具是真的在调用GPT或Claude的API做采样吗?
不是,工具使用的是12个内置的固定模拟token及其概率,所有计算(softmax缩放、Top-P截断)都在浏览器本地完成,不会请求任何真实大模型接口。
为什么不同厂商的temperature取值范围不完全一致,这里的0~2准确吗?
0~2是该工具选取的一个通用演示范围,用于清晰展示分布从集中到平坦的变化趋势;实际调用API时请以对应厂商文档标注的取值范围为准(部分模型上限为1或2)。
“分布熵”具体是怎么算的?
采用信息熵公式 H = -Σp·log2(p),对当前应用了Temperature和Top-P之后的概率分布逐项计算并求和,熵越高代表分布越接近均匀(越随机)。
Top-P设为1.0时会截断token吗?
不会,Top-P=1.0表示保留全部候选token的累积概率范围,此时只有Temperature在起作用。
能否修改内置的token列表和初始概率?
当前版本的12个token及其概率是固定内置的演示数据,用于保证不同用户看到的分布变化一致,暂不支持自定义替换。