Fine-tuning
Önceden eğitilmiş bir modelin belirli bir göreve özel veriyle yeniden eğitilmesi.
İnce ayar (fine-tuning), büyük ve genel amaçlı bir veri kümesi üzerinde önceden eğitilmiş bir modelin, çok daha küçük ve belirli bir göreve veya alana özgü bir veri kümesiyle ek eğitimden geçirilerek o göreve özelleştirilmesi sürecidir. Temel fikir, modelin ön eğitim sırasında öğrendiği genel dil bilgisi, kavramsal ilişkiler ve akıl yürütme kalıplarının büyük ölçüde korunması, ancak ağırlıkların hedef göreve uyacak şekilde hafifçe yeniden ayarlanmasıdır. Örneğin genel amaçlı bir dil modeli, hukuki belgeler üzerinde ince ayardan geçirilerek hukuki terminolojiye ve belge formatına daha duyarlı hale getirilebilir.
İnce ayarın en büyük avantajı verimliliktir: sıfırdan bir model eğitmek milyonlarca dolar ve devasa veri kümeleri gerektirirken, ince ayar çok daha az veri, hesaplama gücü ve zamanla belirgin performans kazanımları sağlayabilir. Günümüzde LoRA (Low-Rank Adaptation) gibi "parametre-verimli" ince ayar teknikleri, modelin milyarlarca ağırlığının tamamını değil, yalnızca küçük bir ek katmanı güncelleyerek bellek ve maliyet ihtiyacını daha da azaltır. İnce ayar, prompt mühendisliği ve RAG ile birlikte bir modeli belirli bir kullanım senaryosuna uyarlamanın üç temel yönteminden biridir; hangisinin tercih edileceği görevin doğasına, veri miktarına ve bütçeye bağlıdır.
İnce ayarın en büyük avantajı verimliliktir: sıfırdan bir model eğitmek milyonlarca dolar ve devasa veri kümeleri gerektirirken, ince ayar çok daha az veri, hesaplama gücü ve zamanla belirgin performans kazanımları sağlayabilir. Günümüzde LoRA (Low-Rank Adaptation) gibi "parametre-verimli" ince ayar teknikleri, modelin milyarlarca ağırlığının tamamını değil, yalnızca küçük bir ek katmanı güncelleyerek bellek ve maliyet ihtiyacını daha da azaltır. İnce ayar, prompt mühendisliği ve RAG ile birlikte bir modeli belirli bir kullanım senaryosuna uyarlamanın üç temel yönteminden biridir; hangisinin tercih edileceği görevin doğasına, veri miktarına ve bütçeye bağlıdır.