pnclENGINEObtener acceso a la API

NOTAS DE CAPACIDAD

Cuando cada copia de la caché expira a la vez

Los TTL compartidos convierten un fallo de caché en una ráfaga de trabajo idéntico. Sacude los tiempos de vida, protege el fallo, y la gráfica se aplana.

Tu poller consulta una vez, tu caché sirve a todos, y el conteo de solicitudes se queda plano. Entonces un martes las llamadas al upstream se disparan por un minuto, al mismo minuto cada día, y el patrón no es el mercado. Es tu caché expirando en todas partes a la vez. Eso es un stampede, y es un bug de diseño que eliminas con una línea de aleatoriedad.

Cómo se forma un stampede

La guía de integración REST recomienda cachear snapshots para los lectores corriente abajo, de modo que un poller alimenta a muchos consumidores, verificado el 2026-11-08. La trampa vive en el TTL. Si cada copia cacheada se escribe en el mismo segundo y recibe el mismo tiempo de vida, cada copia expira en el mismo segundo, y cada lector que llega justo después de la expiración falla a la vez.

Los fallos no encolan educadamente. Recomputan o rebuscan en paralelo, multiplicando un momento de un solo fallo en una ráfaga de trabajo idéntico. Tu gráfica de solicitudes al upstream muestra un pico con período exactamente igual a tu TTL, que es la firma a reconocer.

Sacude el tiempo de vida

La corrección es volver difuso el momento de expiración. Añade un desplazamiento aleatorio a cada TTL, digamos más o menos un diez por ciento, para que las copias escritas juntas dejen de expirar juntas. Una caché de muchas entradas se vuelve un flujo de pequeñas expiraciones en lugar de un precipicio compartido, y la carga de recomputación se reparte por el minuto en lugar de apilarse en su borde.

El mismo truco aplica en cada nivel de la pila: el horario de reintentos del propio poller, la caché del navegador en la página, la CDN frente al consumidor de la API. Dondequiera que muchas copias compartan un plazo, un plazo compartido con exactitud es un pico programado con antelación.

La guarda de vuelo único

El jitter reparte las expiraciones; una guarda de vuelo único limita el daño cuando un fallo aún ocurre. La primera solicitud que falla recomputa mientras las demás esperan su resultado, así que un fallo cuesta una llamada al upstream en lugar de cincuenta. La mayoría de las bibliotecas de caché y de los frameworks tienen el patrón bajo nombres como single-flight, coalescing de solicitudes o protección dogpile, y es una línea de configuración más que código.

Los dos juntos son el diseño entero: el jitter mantiene los fallos raros y repartidos, la guarda mantiene baratos a los supervivientes. Una caché con ambos deja de ser un amplificador de carga y vuelve a ser lo que la guía de integración pretendía: lo que hace que cincuenta lectores internos cuesten exactamente un lector de upstream.

Mídelo una vez

La verificación es una gráfica: solicitudes por segundo al upstream, observadas por un día. Una caché sana muestra una línea plana fijada por el intervalo del poller. Una caché en stampede muestra picos a intervalos de TTL, y los picos desaparecen el día que el jitter se despliega.

La expiración compartida es un planificador silencioso. Añade jitter, protege el fallo, y el único minuto que se dispara es el que el mercado realmente posee.