Rate Limit ve Quota Exhaustion Playbook

Rate-limit incident'ında hedef daha agresif retry yapmak değil, kalan quota'yı en değerli trafik için kontrollü kullanmak ve gereksiz request üretimini durdurmaktır.

Trigger / belirti

HTTP 429/limit error artışı, quota remaining değerinin hızla düşmesi, scheduled jobs'ın user traffic ile yarışması veya provider'ın throttling latency uygulaması.

Gerekli girdiler

• limit window ve reset zamanı,
• global mı credential/account bazlı mı,
• endpoint bazlı maliyet,
• remaining quota,
• current RPS,
• retry-after header,
• background vs interactive traffic dağılımı.

Adımlar

1. Provider limit contract'ını doğrulayın.
2. 429 response içindeki retry-after/reset bilgisini kullanın.
3. Otomatik retry'ları sınırlandırın.
4. Background crawl/refresh job'larını yavaşlatın veya durdurun.
5. Interactive booking-intent request'lere priority verin.
6. Cache hit oranını artırın; duplicate request coalescing uygulayın.
7. Token-bucket/leaky-bucket ile local traffic shaping yapın.
8. Birden fazla credential varsa contract izin vermiyorsa limit bypass için shard etmeyin.

Karar ağacı

Limit beklenen trafik altında mı? Capacity/quota planını güncelleyin.

Ani spike mı? Duplicate, loop veya bot trafiğini bulun.

Background job mu tüketiyor? Schedule ve batch size'ı değiştirin.

Provider yanlış limit uyguluyor olabilir mi? Request IDs ve usage counters ile escalate edin.

Stop condition

429 oranı baseline'a döner, remaining quota güvenli seviyede kalır ve backlog kontrollü şekilde erir.

Metrikler

429 rate, quota burn rate, cache hit, request coalescing ratio, queued work age ve successful requests per quota unit.

Önleme

Quota budget dashboard'u oluşturun. User traffic ile scheduled/background işlere ayrı bütçe ve priority tanımlayın.