Limites de requisição em APIs de brokers exigem mais que retries

Racks de servidores representam a infraestrutura por trás dos limites de taxa de APIs de brokers
Photo by panumas nikhomkhai on Pexels

Quando uma API de broker publica uma cota, o problema mais difícil não é encontrar o número. É decidir qual carga de trabalho recebe a próxima solicitação quando o fluxo de ordens, as consultas de conta e um cliente que está se reconectando disputam capacidade. Um limite aplicado apenas na borda pode proteger um serviço e, ainda assim, permitir que uma conta movimentada impeça todas as outras tarefas de usar uma conexão compartilhada.

Projete os controles com base na prioridade das cargas de trabalho e no comportamento diante de falhas, não apenas em um número de solicitações por segundo. Uma consulta pontual de dados de mercado pode esperar. O cancelamento de uma ordem durante um mercado volátil não pode ser tratado como uma consulta rotineira de saldo.

Escolha um modelo de limite compatível com o tráfego

Janelas fixas e janelas móveis

Um contador de janela fixa é simples: permite, por exemplo, 60 chamadas por minuto e, em seguida, zera o contador no início do minuto seguinte. É barato de implementar, mas o cliente pode usar quase toda a cota pouco antes da zeragem e repetir a operação logo depois. O pico resultante pode chegar perto do dobro da taxa nominal por minuto.

Um contador de janela móvel suaviza esse efeito de transição ao contar as solicitações feitas no intervalo anterior. Ele oferece uma proteção mais previsível, ao custo de mais estado e processamento. Um log deslizante é preciso, mas pode ser caro em volumes altos; uma aproximação com contador deslizante costuma oferecer um equilíbrio útil.

Token buckets e leaky buckets

Um token bucket costuma ser mais adequado quando uma API precisa permitir picos curtos, mantendo sob controle a taxa sustentada. Os tokens são reabastecidos a uma taxa definida, e cada solicitação consome um ou mais tokens. Um bucket com capacidade para 20 tokens, reabastecido a 10 por segundo, permite um pico inicial de 20 e depois se estabiliza perto de 10 solicitações por segundo.

Um leaky bucket, por sua vez, libera o trabalho enfileirado a uma taxa constante. Isso o torna útil para tarefas não urgentes, como recuperar extratos ou consultar dados históricos.

É menos adequado como único controle de envio de ordens: uma fila que cresce durante um pico pode transformar um limite temporário em instruções de trading obsoletas. Defina um prazo de validade para a fila e rejeite o trabalho que já não for útil.

Aplique os controles no ponto certo

O controle de ritmo no cliente protege a capacidade compartilhada

Os limites no servidor continuam necessários, mas um agendador no cliente pode evitar respostas 429 desnecessárias e proteger a cota compartilhada de um broker. Mantenha orçamentos separados para envio de ordens, consultas de conta, consultas pontuais de dados de mercado e consultas históricas. Dentro de cada orçamento, use prioridade ponderada: cancelamentos e ações que reduzem o risco geralmente devem ter prioridade sobre novas ordens, enquanto atualizações repetitivas de conta podem ser adiadas ou agrupadas.

Divida as cotas de acordo com os critérios que a API realmente aplica. Eles podem incluir conta, chave de API, endereço IP, endpoint ou uma combinação desses fatores. Um limitador global único em um gateway multi-tenant é simples, mas pode permitir que o tráfego de uma empresa consuma a capacidade destinada a outras. Controles por conta melhoram a equidade, embora acrescentem estado e exijam cuidado quando os clientes usam várias chaves para a mesma conta.

Limites no gateway oferecem uma proteção confiável

Um gateway é um local prático para aplicar limites compartilhados, definir orçamentos por cliente e retornar cabeçalhos de limite de taxa consistentes. Ele também introduz um possível ponto de falha.

Se o repositório de estado do limitador ficar indisponível, escolha explicitamente entre falhar de forma fechada, rejeitando o tráfego, e falhar de forma aberta, com o risco de sobrecarregar os serviços subsequentes. Para APIs de ordens, a escolha deve refletir os controles de risco e a política do broker para operação degradada, em vez de seguir uma configuração padrão genérica do gateway.

Os números abaixo são faixas típicas de planejamento para padrões comuns de APIs de corretoras de varejo, não cotas universais nem garantias de um provedor. Os limites publicados variam por produto, categoria de conta e endpoint. Confirme as condições efetivas, inclusive se solicitações malsucedidas são contabilizadas.

Carga de trabalhoFaixa típica sustentadaFaixa típica de pico ou simultaneidadeControle a considerar
Envio e alteração de ordens2-10 solicitações por segundo por conta5-20 solicitações em um pico curtoReserve capacidade para cancelamentos e ações que reduzem o risco
Consultas de conta e posições5-20 solicitações por segundo por chave ou conta10-50 solicitações em um pico curtoArmazene em cache por pouco tempo e agrupe consultas duplicadas
Consultas pontuais de dados de mercado1-10 solicitações por segundo por chave ou conta1-5 solicitações simultâneas por clientePrefira assinaturas de streaming para atualizações frequentes
Histórico e relatórios1-5 solicitações por segundo por cliente1-3 solicitações simultâneasEnfileire, pagine e agende fora dos períodos de pico

Use backoff seguro para solicitações de trading

Uma resposta 429 é um sinal para ajustar o ritmo, não um convite para repetir todas as solicitações de uma só vez. Respeite o cabeçalho Retry-After, quando disponível, e também consulte os cabeçalhos de cota restante ou de redefinição fornecidos pela API.

Se o servidor não der instruções, use backoff exponencial com jitter completo: escolha um atraso aleatório entre zero e o limite atual e, depois de cada falha, aumente esse limite. Um atraso inicial típico é de 100-500 milissegundos, com um limite de 5-30 segundos e um orçamento pequeno de três a cinco tentativas para operações de leitura.

As tentativas precisam seguir regras diferentes para cada tipo de solicitação:

  • Repita leituras idempotentes após uma resposta 429 ou 5xx transitória, dentro de um prazo e de um limite de tentativas definidos.
  • Não reenvie uma ordem às cegas após um timeout. O broker pode tê-la aceitado mesmo que a confirmação não tenha chegado. Use uma chave de idempotência ou consulte o status da ordem antes de decidir se deve enviá-la novamente.
  • Se a conexão for redefinida durante o envio de uma ordem, marque o resultado como desconhecido e reconcilie-o com o estado da ordem no broker. Tratar a incerteza como rejeição pode criar exposição duplicada.
  • Pare de tentar quando o cliente cancelar a intenção, a sessão de mercado mudar ou a ordem deixar de ser válida.

O jitter é importante quando vários workers compartilham um limite. Sem ele, todos podem ser reativados no mesmo momento da redefinição e recriar o pico que provocou o throttling. Um circuit breaker pode interromper chamadas repetidas a um endpoint com falha, mas não deve bloquear caminhos independentes, como cancelamentos, quando eles usam um serviço ou uma cota separados.

Meça a equidade, além do throughput

Registre as respostas de throttling por endpoint, conta e cliente, junto com o tamanho da fila, a idade das solicitações, o número de tentativas e o tempo até a confirmação. Uma taxa média baixa de respostas 429 pode ocultar um problema concentrado: uma conta pode sofrer throttling continuamente enquanto o tráfego agregado permanece dentro da cota. Acompanhe os percentis p95 e p99 do tempo de espera na fila, não apenas a latência média, e gere alertas quando uma fila prioritária se aproximar do limite de validade.

Os testes de carga devem incluir esgotamento de cota, reconexões sincronizadas, respostas lentas e confirmações de ordens ambíguas. Teste se o pico de um cliente afeta outro, se a capacidade reservada para cancelamentos continua disponível e se o estado do limitador sobrevive à reinicialização de um gateway.

Em implantações multirregionais, verifique se os limites são locais a cada região ou coordenados globalmente. Buckets locais independentes podem multiplicar a cota efetiva após um failover.

Para equipes de infraestrutura que comparam escolhas de design de plataformas e APIs, a cobertura da Trading Technology sobre infraestrutura de trading oferece um contexto operacional mais amplo. A decisão de implementação ainda depende do modelo de cotas efetivo do broker, dos custos de atrasar cada classe de solicitação e do processo de recuperação quando as confirmações são incertas. Qual carga de trabalho sua equipe protegeria primeiro se todos os clientes atingissem o limite durante um pico de mercado?

Perguntas frequentes

Qual é um limite de taxa inicial razoável para uma API de broker?

Não existe uma cota universal, e o envio de ordens, as consultas de conta e as consultas históricas não devem compartilhar um único orçamento indiferenciado. Faixas típicas de planejamento podem ajudar na estimativa inicial, mas os limites publicados pelo broker e as regras específicas de cada endpoint têm prioridade.

Como um cliente de trading deve responder a um HTTP 429?

Use o cabeçalho Retry-After ou as informações de redefinição, quando fornecidos, e aplique backoff limitado com jitter. Repita leituras seguras de forma seletiva e evite reenviar uma ordem antes de saber seu status.

Os cancelamentos de ordens devem ter um limite de taxa separado?

Quando a arquitetura da API permitir, reserve capacidade para cancelamentos e outras ações que reduzem o risco. Um limite compartilhado pode permitir que consultas ou novas ordens consumam a cota necessária para reduzir a exposição.

Um token bucket é melhor que um limitador de janela fixa?

Um token bucket oferece um controle mais claro do tamanho dos picos e da taxa sustentada, sendo útil para muitas cargas de trabalho de APIs de brokers. As janelas fixas são mais simples, mas podem permitir picos concentrados perto da redefinição do contador.