
大语言模型采样参数
问题描述:模型采样参数在使用 cherryStuidio 这类软件时,我们经常看到 Temperature 之类的可配置参数。我们可以调整这些参数来调整大语言模型的输出,其本质是通过调整模型的概率分布的采样策略。我们以经典的 SoftMax
共收录篇相关文章

问题描述:模型采样参数在使用 cherryStuidio 这类软件时,我们经常看到 Temperature 之类的可配置参数。我们可以调整这些参数来调整大语言模型的输出,其本质是通过调整模型的概率分布的采样策略。我们以经典的 SoftMax