Context Window Overflow
Girdi ve üretim tokenlarının modelin izin verdiği toplam bağlam sınırını aşması durumu.
Bağlam penceresi taştığında istek reddedilebilir veya eski mesajlar sistem tarafından kırpılabilir. Kalıcı bilgileri belleğe ayırmak, geçmişi özetlemek ve yalnızca ilgili belgeleri getirmek bu sorunu azaltır.
Member comments