Tensor Processing Unit / TPU
Google tarafından geliştirilen, yapay zeka iş yükleri için özel tasarlanmış hızlandırıcı çip.
Tensör İşlem Birimi (TPU), Google tarafından özellikle derin öğrenme iş yükleri için sıfırdan tasarlanmış bir uygulamaya özgü entegre devre (ASIC) türüdür. Genel amaçlı GPU'ların aksine TPU, sinir ağlarının temelini oluşturan matris çarpımı ve toplama işlemlerini en yüksek verimlilikle yapacak şekilde optimize edilmiştir; çekirdeğinde "sistolik dizi" adı verilen bir mimari kullanır ve bu sayede veri, işlemciler arasında sürekli akarak gereksiz bellek erişimini azaltır. Bu özelleşme, TPU'ların belirli derin öğrenme görevlerinde GPU'lara kıyasla daha yüksek enerji verimliliği ve hız sunmasını sağlar.
TPU'lar yalnızca Google Cloud üzerinden kiralanabilir biçimde sunulur ve Google'ın kendi büyük modellerinin hem eğitiminde hem çıkarımında yoğun biçimde kullanılır; TensorFlow ve JAX gibi çerçeveler TPU ile doğrudan uyumlu çalışacak şekilde geliştirilmiştir. TPU'ların ortaya çıkışı, yapay zeka donanım pazarının NVIDIA GPU'larının tekelinde olmadığını, şirketlerin kendi iş yüklerine özel çip tasarlayarak maliyet ve performans avantajı elde edebileceğini göstermiştir; bu eğilim daha sonra Amazon'un Trainium'u gibi benzer girişimlere ilham vermiştir. TPU nesilleri her yeni versiyonla daha fazla hesaplama gücü ve bellek bant genişliği sunacak şekilde gelişmeye devam etmektedir.
TPU'lar yalnızca Google Cloud üzerinden kiralanabilir biçimde sunulur ve Google'ın kendi büyük modellerinin hem eğitiminde hem çıkarımında yoğun biçimde kullanılır; TensorFlow ve JAX gibi çerçeveler TPU ile doğrudan uyumlu çalışacak şekilde geliştirilmiştir. TPU'ların ortaya çıkışı, yapay zeka donanım pazarının NVIDIA GPU'larının tekelinde olmadığını, şirketlerin kendi iş yüklerine özel çip tasarlayarak maliyet ve performans avantajı elde edebileceğini göstermiştir; bu eğilim daha sonra Amazon'un Trainium'u gibi benzer girişimlere ilham vermiştir. TPU nesilleri her yeni versiyonla daha fazla hesaplama gücü ve bellek bant genişliği sunacak şekilde gelişmeye devam etmektedir.