Rate Limiter distribuído

SYSTEM DESIGN
 >_ inicializando…

DASHBOARDPROBLEMS
 Problem Library ENTRAR PARA COMEÇAR 
#002Easy
Rate Limiter distribuídorate-limitingcachingdistributed-state
ObjetivoProjete o componente que decide, para cada requisição, se ela passa ou é rejeitada com 429 —
respeitando uma cota por cliente numa janela de tempo.
Requisitos funcionaisLimitar por chave (IP, usuário ou API key)
Cota configurável por plano
Responder 429 com Retry-After quando estourar
Requisitos não funcionaisp99 abaixo de 50ms: o limiter está no caminho de TODA requisição
Precisa funcionar com várias instâncias do gateway
Alvo: 20,000 RPS ·50% read · SLA p99_ms < 50ms
// KEY_CONSIDERATIONSO estado é compartilhado. Contador em memória local não serve: cada instância teria
sua própria contagem e o limite real viraria N× o configurado.
Algoritmo: token bucket (permite burst), sliding window (mais justo, mais caro),
fixed window (simples, sofre efeito de borda).
O limiter adiciona latência em 100% do tráfego — ele mesmo precisa ser rapidíssimo.
Fail-open ou fail-closed quando o store de contadores cai?
Learn Before Solving
Os conceitos que este problema exercita. Abra cada card antes de desenhar.
Reference ArchitectureExiste uma abordagem forte guardada para este problema. Ela aparece no Compare with reference, dentro do editor, depois que você desenhar e simular a sua — comparada lado a lado com o que você fez.