NOTAS DE CAPACIDADE
Quando toda cópia do cache expira ao mesmo tempo
TTLs compartilhados transformam um erro de cache numa rajada de trabalho idêntico. Sacuda os tempos de vida, proteja o erro, e o gráfico achata.
O seu poller busca uma vez, o seu cache serve a todos, e a contagem de requisições fica plana. Aí numa terça as chamadas ao upstream disparam por um minuto, no mesmo minuto todo dia, e o padrão não é o mercado. É o seu cache expirando em todo lugar ao mesmo tempo. Isso é um stampede, e é um bug de desenho que você remove com uma linha de aleatoriedade.
Como um stampede se forma
O guia de integração REST recomenda guardar snapshots em cache para os leitores a jusante, de modo que um poller alimenta muitos consumidores, verificado em 2026-11-08. A armadilha mora no TTL. Se toda cópia cacheada é escrita no mesmo segundo e recebe o mesmo tempo de vida, toda cópia expira no mesmo segundo, e todo leitor que chega logo depois da expiração erra junto.
Os erros não enfileiram educadamente. Eles recomputam ou rebuscam em paralelo, multiplicando um momento de um erro só numa rajada de trabalho idêntico. O seu gráfico de requisições ao upstream mostra um pico com período exatamente igual ao seu TTL, que é a assinatura a reconhecer.
Sacuda o tempo de vida
A correção é deixar o momento de expiração difuso. Adicione um deslocamento aleatório a cada TTL, digamos mais ou menos dez por cento, para que as cópias escritas juntas parem de expirar juntas. Um cache de muitas entradas vira um fluxo de pequenas expirações em vez de um precipício compartilhado, e a carga de recomputação se espalha pelo minuto em vez de se empilhar na borda dele.
O mesmo truque vale em cada nível da pilha: o cronograma de retry do próprio poller, o cache do navegador na página, a CDN na frente do consumidor da API. Onde quer que muitas cópias dividam um prazo, um prazo dividido com exatidão é um pico agendado com antecedência.
A guarda de voo único
O jitter espalha as expirações; uma guarda de voo único limita o dano quando um erro ainda acontece. A primeira requisição que erra recomputa enquanto as outras esperam pelo resultado dela, então um erro custa uma chamada ao upstream em vez de cinquenta. A maioria das bibliotecas de cache e dos frameworks tem o padrão sob nomes como single-flight, coalescing de requisições ou proteção dogpile, e é uma linha de configuração mais do que código.
Os dois juntos são o desenho inteiro: o jitter mantém os erros raros e espalhados, a guarda mantém os sobreviventes baratos. Um cache com ambos deixa de ser um amplificador de carga e volta a ser o que o guia de integração pretendia: a coisa que faz cinquenta leitores internos custarem exatamente um leitor de upstream.
Meça uma vez
A verificação é um gráfico: requisições por segundo ao upstream, observadas por um dia. Um cache saudável mostra uma linha plana definida pelo intervalo do poller. Um cache em stampede mostra picos em intervalos de TTL, e os picos desaparecem no dia em que o jitter sobe ao ar.
Expiração compartilhada é um agendador silencioso. Adicione jitter, proteja o erro, e o único minuto que dispara é aquele que o mercado realmente possui.