Regularization
Modelin aşırı öğrenmesini önlemek için kayıp fonksiyonuna ek kısıtlar ekleyen teknikler.
Düzenlileştirme, bir modelin eğitim verisini ezberleyip yeni verilerde başarısız olması (aşırı öğrenme) riskini azaltmak amacıyla kayıp fonksiyonuna ek kısıtlamalar veya cezalar ekleyen teknikler bütünüdür. L1 düzenlileştirme gereksiz özellikleri tamamen sıfırlayarak modeli sadeleştirirken, L2 düzenlileştirme büyük ağırlık değerlerini cezalandırarak daha dengeli, aşırı uçlara kaçmayan bir model elde edilmesini teşvik eder. Dropout, erken durdurma (early stopping) ve veri artırma gibi teknikler de geniş anlamda düzenlileştirme ailesinin birer parçası sayılır. Amaç her zaman aynıdır: modelin eğitim verisindeki gürültüyü değil, verinin altında yatan gerçek örüntüyü öğrenmesini sağlamak.