Temperature

Sıcaklık parametresi (temperature), bir dil modelinin bir sonraki kelimeyi seçerken olasılık dağılımını ne kadar "keskin" veya "yumuşak" kullanacağını kontrol eden bir örnekleme ayarıdır. Model her adımda kelime dağarcığındaki her olası kelime için bir olasılık hesaplar (softmax fonksiyonu ile); sıcaklık parametresi bu olasılıkları hesaplamadan önce logit değerlerini böler. Sıcaklık 1'den düşük olduğunda, yüksek olasılıklı kelimeler daha da baskın hale gelir ve model neredeyse her zaman en olası kelimeyi seçer; bu tutarlı ama tekdüze çıktılar üretir. Sıcaklık 1'in üzerine çıktıkça, olasılık dağılımı düzleşir, düşük olasılıklı kelimelerin seçilme şansı artar ve çıktı daha çeşitli, yaratıcı ama daha öngörülemez ve hataya açık hale gelir.

Bu parametre, kullanım senaryosuna göre ayarlanır: kod üretimi, matematiksel çözümler veya faktüel soru-cevap gibi kesinlik gerektiren görevlerde düşük sıcaklık (0 ile 0.3 arası) tercih edilirken, hikaye yazımı, beyin fırtınası veya şiir gibi yaratıcı görevlerde daha yüksek sıcaklık (0.7 ile 1.2 arası) daha ilginç sonuçlar verebilir. Sıcaklık sıfıra ayarlandığında model deterministik hale gelir ve her zaman en olası kelimeyi seçer; pratikte pek çok API bu parametreyi geliştiricilere doğrudan ayarlanabilir bir seçenek olarak sunar.