Thinking Budget
Bir akıl yürütme modelinin çözüm üretirken kullanabileceği token veya hesaplama miktarını belirleyen sınır.
Düşünce bütçesi artırıldığında model daha fazla olasılığı değerlendirebilir, fakat her görev bu ek maliyetten aynı ölçüde yararlanmaz. Basit sorular için küçük, çok aşamalı analizler için daha geniş bütçe seçmek verimlilik sağlar.
Member comments