P Harfi 👁 23 görüntülenme

Parameter

Bir modelin eğitim sırasında öğrendiği, davranışını belirleyen sayısal değerler.

Parametreler, bir yapay zeka modelinin eğitim sürecinde veriden öğrendiği ve modelin girdileri nasıl işleyip çıktı ürettiğini belirleyen sayısal değerlerdir; sinir ağlarında bunlar temel olarak ağırlıklar ve bias terimlerinden oluşur. Bir dil modelinin "70 milyar parametreli" olduğunu duyduğunuzda, bu sayı modelin öğrenebileceği örüntülerin karmaşıklığına dair kaba bir fikir verir, ancak tek başına kalite göstergesi değildir; eğitim verisinin kalitesi ve mimari tasarım da en az o kadar belirleyicidir. Parametre sayısı arttıkça modelin hem hesaplama hem bellek gereksinimi katlanarak büyür, bu yüzden nicemleme ve damıtma gibi teknikler bu maliyeti dengelemek için geliştirilmiştir.