Yeniden Sıralayıcı Kapasite Planı
Reranker kalite kazancını gecikme ve altyapı maliyetiyle dengeler.
PROMPT
Bir yeniden sıralama servisinin kapasite planını çıkar. Aday belge sayısı, sorgu/saniye, p95 gecikme ve model boyutu için üç trafik senaryosu hesapla. Kalite kazancı azaldığında aday sayısını düşüren kural ve servis çökünce devreye girecek güvenli geri dönüşü tanımla.
Köşeli parantezli alanları kendi hedefin, kitlen ve bağlamınla değiştir.
Promptu önerilen araca yapıştır; ilk çıktıyı bir taslak olarak değerlendir.
Eksik noktaları belirt, örnek ekle ve istediğin çıktı biçimini daha kesin tanımla.
Üye yorumları