Cache Hit Ratio

Neden önemli?

Metasearch fan-out architecture upstream latency ve data volatility nedeniyle resilience gerektirir. Cache, timeout ve retry kararları yalnız backend performansını değil kullanıcıya gösterilen offer'ın doğruluğunu da etkiler. Bu kavramlar SLO, freshness ve failure isolation ile birlikte tasarlanmalıdır.

Pratikte nasıl görünür?

Bir supplier p95 latency'si yükseldiğinde timeout, circuit breaker ve fallback cache birlikte çalışabilir. Ama stale fallback kullanıldıysa response hâlâ başarılı görünürken price-quality riski büyüyebilir.

Uygulamada sorulması gerekenler

• End-to-end latency budget nedir?
• Cache age ve source timestamp tutuluyor mu?
• Hangi error class retry ediliyor?
• Bir provider failure diğer supplier'ları etkiliyor mu?

Yaygın hatalar

• Tüm error'ları retry etmek
• Cache hit ratio'yu freshness'ten bağımsız optimize etmek
• Tek provider failure'ın tüm fan-out'u bloklamasına izin vermek

Travel stack içinde nerede kullanılır?

Cache Hit Ratio, çoğunlukla resilience katmanlarıyla ilişkilidir. İlgili sistemlerde source-of-truth, identity, freshness ve transaction ownership sınırlarını açık tanımlamak gerekir.

İlgili terimler