Graphics Processing Unit / GPU
Paralel hesaplamada uzmanlaşmış, yapay zeka eğitiminde yaygın kullanılan işlemci türü.
Grafik İşlem Birimi (GPU), başlangıçta bilgisayar oyunlarında ve grafik render işlemlerinde kullanılan görüntüleri hızlıca işlemek için tasarlanmış, ancak bugün yapay zeka eğitiminin vazgeçilmez donanımı haline gelmiş bir işlemci türüdür. CPU'lar az sayıda güçlü çekirdekle karmaşık, sıralı görevlerde başarılıyken, GPU'lar binlerce basit çekirdeğe sahiptir ve bu çekirdekler aynı işlemi aynı anda çok sayıda veri üzerinde paralel olarak yürütebilir. Derin öğrenme, temelde devasa matris ve tensör çarpımlarından oluştuğu için bu paralel yapı son derece uygundur; bir sinir ağı katmanındaki milyonlarca çarpma-toplama işlemi GPU üzerinde eşzamanlı olarak yürütülebilir.
NVIDIA'nın CUDA platformu, GPU'ların genel amaçlı hesaplama için programlanabilmesini sağlayarak derin öğrenmenin 2010'lu yıllarda patlama yapmasında kilit rol oynamıştır; AlexNet gibi öncü modellerin başarısı büyük ölçüde GPU hızlandırmasıyla mümkün olmuştur. Günümüzde büyük dil modellerinin eğitimi, binlerce GPU'nun veri merkezlerinde birbirine bağlanarak aylarca çalıştırılmasını gerektirir; bu nedenle GPU arzı ve fiyatı, yapay zeka endüstrisinin stratejik bir darboğazı haline gelmiştir. NVIDIA'nın H100 ve A100 gibi çipleri, günümüz büyük modellerinin eğitiminde endüstri standardı sayılır.
NVIDIA'nın CUDA platformu, GPU'ların genel amaçlı hesaplama için programlanabilmesini sağlayarak derin öğrenmenin 2010'lu yıllarda patlama yapmasında kilit rol oynamıştır; AlexNet gibi öncü modellerin başarısı büyük ölçüde GPU hızlandırmasıyla mümkün olmuştur. Günümüzde büyük dil modellerinin eğitimi, binlerce GPU'nun veri merkezlerinde birbirine bağlanarak aylarca çalıştırılmasını gerektirir; bu nedenle GPU arzı ve fiyatı, yapay zeka endüstrisinin stratejik bir darboğazı haline gelmiştir. NVIDIA'nın H100 ve A100 gibi çipleri, günümüz büyük modellerinin eğitiminde endüstri standardı sayılır.