Top-p / Top-k Sampling
Bir sonraki kelimeyi seçerken olasılık dağılımını sınırlayan örnekleme stratejileri.
Top-k örnekleme yalnızca en olası k kelime arasından seçim yaparken, top-p (nucleus sampling) kümülatif olasılığı p değerini aşan en küçük kelime kümesinden seçim yapar; ikisi de çıktı çeşitliliğini kontrol eder.
Üye yorumları