Quantization
Model ağırlıklarının daha az bit ile temsil edilerek boyut ve hesaplama maliyetinin azaltılması.
Nicemleme, örneğin 32-bit kayan noktalı sayıları 8-bit tam sayılara dönüştürerek modelin bellek kullanımını ve çıkarım hızını iyileştirir; genellikle küçük bir doğruluk kaybıyla gelir.
Üye yorumları