MODEL INTERFACE / SAMPLING

候选筛选与重新归一化

保持温度 τ=1。左边改变保留数量,右边改变累计概率阈值;绿色累计值标出 top-p 最后保留的一项。

保留项:p′ᵢ = pᵢ / 保留概率之和其余项:p′ᵢ = 0
温度 τ = 1 · top-k 与 top-p 分别应用
2
90%

左右滑动表格,查看筛选后的概率 →

同一组候选按概率从高到低排列,比较 top-k 和 top-p 筛选后实际用于采样的概率。累计概率使用筛选前的概率计算。
Token / ID原概率累计概率top-k 后top-p 后

top-p 包含使累计概率达到或跨过阈值的项;两种筛选分别应用,不叠加。窄屏可横向滚动表格。