大语言模型采样参数

大语言模型采样参数

问题描述：模型采样参数在使用 cherryStuidio 这类软件时，我们经常看到 Temperature 之类的可配置参数。我们可以调整这些参数来调整大语言模型的输出，其本质是通过调整模型的概率分布的采样策略。我们以经典的 SoftMax