Cache Stampede Prevention

cache_stampede_prevention

Prevención de cache stampede (thundering herd) cuando una key popular expira y múltiples workers intentan recalcularla simultáneamente, saturando el backend.

When to use

Usar en el cache_agent para keys de alta concurrencia como configuración de umbrales, blacklists y resultados de modelos. No es necesario para keys de sesión individual.

Instructions

1. Probabilistic Early Expiration: renovar la key antes de que expire.

   ttl = redis.ttl(key)
   if ttl < threshold and random.random() < probability:
       value = recompute()
       redis.set(key, value, ex=original_ttl)
   

2. Lock-based: usar lock distribuido para que solo un worker recalcule.