Embedding
Kelime, cümle veya nesnelerin anlamsal ilişkilerini sayısal vektörler olarak temsil eden yöntem.
Embedding (gömme vektörü), kelime, cümle, görsel veya herhangi bir nesnenin anlamsal özelliklerini, genellikle yüzlerce veya binlerce boyutlu sürekli bir sayısal vektör uzayında temsil eden bir yöntemdir. Bu vektörler rastgele atanmaz; bir model, büyük miktarda veri üzerinde eğitilirken, anlamsal veya bağlamsal olarak benzer öğelerin bu çok boyutlu uzayda birbirine yakın konumlanmasını, ilişkisiz öğelerin ise uzak durmasını öğrenir. Klasik bir örnek, kelime embedding uzaylarında "kral" vektöründen "erkek" çıkarılıp "kadın" eklendiğinde sonucun "kraliçe" vektörüne yakın çıkmasıdır; bu, vektörlerin anlamsal ilişkileri gerçekten yakaladığını gösterir.
Embedding'ler günümüz yapay zeka sistemlerinin birçok kritik uygulamasının temelini oluşturur. Anlamsal arama motorlarında, sorgu ve belgeler embedding vektörlerine dönüştürülüp aralarındaki kosinüs benzerliği hesaplanarak en alakalı sonuçlar bulunur; öneri sistemlerinde kullanıcı ve ürünler ortak bir embedding uzayında temsil edilir; RAG (erişim destekli üretim) sistemlerinde ise belgeler önceden embedding'lere dönüştürülüp bir vektör veritabanında saklanır, kullanıcı sorusu geldiğinde en yakın embedding'lere sahip belgeler bulunup modelin bağlamına eklenir. Büyük dil modellerinde de her token, işlenmeden önce kendi embedding vektörüne dönüştürülür; bu, modelin dildeki anlamı sayısal olarak temsil etmesinin ilk adımıdır.
Embedding'ler günümüz yapay zeka sistemlerinin birçok kritik uygulamasının temelini oluşturur. Anlamsal arama motorlarında, sorgu ve belgeler embedding vektörlerine dönüştürülüp aralarındaki kosinüs benzerliği hesaplanarak en alakalı sonuçlar bulunur; öneri sistemlerinde kullanıcı ve ürünler ortak bir embedding uzayında temsil edilir; RAG (erişim destekli üretim) sistemlerinde ise belgeler önceden embedding'lere dönüştürülüp bir vektör veritabanında saklanır, kullanıcı sorusu geldiğinde en yakın embedding'lere sahip belgeler bulunup modelin bağlamına eklenir. Büyük dil modellerinde de her token, işlenmeden önce kendi embedding vektörüne dönüştürülür; bu, modelin dildeki anlamı sayısal olarak temsil etmesinin ilk adımıdır.