Foundation Model
Geniş ve çeşitli veriyle eğitilip birçok farklı göreve uyarlanabilen büyük ölçekli model.
Temel model (foundation model) terimi, çok büyük ve çeşitli veri kümeleri üzerinde eğitilip, ardından ince ayar (fine-tuning), prompt mühendisliği veya adaptör teknikleriyle pek çok farklı göreve uyarlanabilen büyük ölçekli yapay zeka modellerini tanımlar. Terim ilk olarak Stanford'daki araştırmacılar tarafından, GPT-3 gibi modellerin ortaya çıkardığı yeni paradigmayı adlandırmak için kullanılmıştır: artık her görev için sıfırdan özel bir model eğitmek yerine, geniş ve genel bir "temel" üzerine inşa etmek mümkün hale gelmiştir. Bu modeller kendiliğinden gözetimli öğrenme (self-supervised learning) ile eğitilir; yani etiketlenmiş veri gerektirmeden, metnin veya verinin kendi yapısından öğrenirler.
Temel modellerin önemi, ölçek büyüdükçe modelin beklenmedik, ortaya çıkan (emergent) yetenekler kazanmasından gelir: dil çevirisi, kod yazma, mantık yürütme gibi görevler, model bu görevler için özel olarak eğitilmemiş olsa bile belirir. GPT, Claude, Gemini, Llama ve BERT gibi modeller birer temel modeldir; şirketler bu modelleri müşteri hizmetleri botundan tıbbi metin analizine kadar çok farklı ürünlerin temeli olarak kullanır. Ancak bu güç, yanlılık, güvenlik ve hesaplama maliyeti gibi riskleri de beraberinde getirdiğinden, temel modellerin sorumlu geliştirilmesi güncel bir tartışma konusudur.
Temel modellerin önemi, ölçek büyüdükçe modelin beklenmedik, ortaya çıkan (emergent) yetenekler kazanmasından gelir: dil çevirisi, kod yazma, mantık yürütme gibi görevler, model bu görevler için özel olarak eğitilmemiş olsa bile belirir. GPT, Claude, Gemini, Llama ve BERT gibi modeller birer temel modeldir; şirketler bu modelleri müşteri hizmetleri botundan tıbbi metin analizine kadar çok farklı ürünlerin temeli olarak kullanır. Ancak bu güç, yanlılık, güvenlik ve hesaplama maliyeti gibi riskleri de beraberinde getirdiğinden, temel modellerin sorumlu geliştirilmesi güncel bir tartışma konusudur.