Model Maliyet Düşürme Sprinti
Model maliyetini kaliteyi izlemeden düşürmeyi engelleyen ölçülü bir optimizasyon planı üretir.
PROMPT
Mevcut LLM kullanım dökümünü inceleyen bir FinOps uzmanı gibi davran. İstek türlerini değer, token tüketimi ve gecikme hassasiyetine göre sınıflandır. Önbellek, model yönlendirme, bağlam kısaltma ve toplu işlem fırsatlarını hesaplanabilir önerilere dönüştür. Her öneri için tasarruf tahmini formülü, kalite riski ve A/B test planı ver.
Replace the bracketed fields with your own goal, audience and context.
Paste the prompt into the recommended tool; treat the first output as a draft.
Point out gaps, add examples, and define the output format you want more precisely.
Member comments