MODEL INTERFACE / SAMPLING
候选筛选与重新归一化
保持温度 τ=1。左边改变保留数量,右边改变累计概率阈值;绿色累计值标出 top-p 最后保留的一项。
保留项:p′ᵢ = pᵢ / 保留概率之和其余项:p′ᵢ = 0
温度 τ = 1 · top-k 与 top-p 分别应用
左右滑动表格,查看筛选后的概率 →
| Token / ID | 原概率 | 累计概率 | top-k 后 | top-p 后 |
|---|
top-p 包含使累计概率达到或跨过阈值的项;两种筛选分别应用,不叠加。窄屏可横向滚动表格。