Yeniden Sıralayıcı Kapasite Planı
Reranker kalite kazancını gecikme ve altyapı maliyetiyle dengeler.
Bir yeniden sıralama servisinin kapasite planını çıkar. Aday belge sayısı, sorgu/saniye, p95 gecikme ve model boyutu için üç trafik senaryosu hesapla. Kalite kazancı azaldığında aday sayısını düşüren kural ve servis çökünce devreye girecek güvenli geri dönüşü tanımla.
Replace the bracketed fields with your own goal, audience and context.
Paste the prompt into the recommended tool; treat the first output as a draft.
Point out gaps, add examples, and define the output format you want more precisely.

Member comments