Temperature、Top-p 与输出长度怎样影响回答？

返回 大模型基础 目录

标准回答

Temperature 调整采样分布的平缓程度，Top-p 限制累计概率范围内的候选，输出长度上限限制生成预算。它们影响结果风格与稳定性，不直接保证正确性。

关键机制

• 较低温度通常更集中于高概率候选，较高温度通常更多样；是否支持、取值范围和实际效果以模型接口为准。
• Top-p 选取累计概率达到阈值的候选集合；Top-k 则按候选数量截断，二者不是同一个参数。
• 提取字段先建立固定样本，用较稳定配置验证；创意任务再试更丰富的采样。调整时尽量保持其他因素不变。

通俗例子

把错误码说明转成固定字段时，随机发挥越多越难校验。应先给清晰字段定义和输出约束，再通过样本比较参数组合。

易混淆点

温度为零或贪心解码也不一定跨硬件、版本与服务批次完全一致；低温度无法消除事实错误。

参考资料

• 官方参考

内容来源

• Android 技术札记 · 原条目 generation