Los límites de solicitudes de la API de un broker necesitan un plan de control de 30 días

Racks de servidores que ilustran la infraestructura para gestionar los límites de solicitudes de la API de un broker
Photo by panumas nikhomkhai on Pexels

Por qué los límites de la API de un broker provocan incidentes

Una mala gestión de los límites de la API de un broker puede costarle a una firma pequeña entre $5,000 y $50,000 en tiempo del personal, escalaciones al proveedor y medidas correctivas durante un incidente de 30 minutos, sin contar las compensaciones a clientes ni los ingresos de trading perdidos. Se trata de un rango operativo plausible, no de una cifra auditada. El mayor riesgo es que una ruta de control deje de responder durante un repunte del mercado.

Un límite rara vez consiste en una única cifra sencilla de solicitudes por segundo. Un proveedor puede aplicar cuotas independientes por clave de API, cuenta, dirección IP, endpoint, tipo de orden o sesión.

La firma también puede tener sus propios límites en una pasarela de API, una malla de servicios o un sistema de riesgos. Si una capa devuelve HTTP 429 mientras otra sigue enviando solicitudes, las colas se llenan y los reintentos amplifican la carga.

Identificar los límites de las cuotas

Empiece por registrar los límites documentados de cada proveedor y validarlos con el equipo de la cuenta. Indique qué límites son compartidos entre servicios y cuáles se aplican por cuenta o endpoint.

Registre si el proveedor devuelve un encabezado Retry-After, restablece una ventana fija o utiliza una ventana móvil o un token bucket. La documentación puede no reflejar los cambios de implementación, así que trate el comportamiento observado como evidencia, no como permiso para superar un límite publicado.

Para cada endpoint, registre las tasas de solicitudes normales y máximas, la concurrencia, los códigos de respuesta y la latencia. Separe las lecturas, como saldos y metadatos de instrumentos, del envío de órdenes, las cancelaciones y las comprobaciones de riesgo. Un ciclo de consultas periódicas que no causa problemas a las 09:00 puede competir con el tráfico de órdenes durante un mercado volátil.

Decidir qué solicitudes tienen prioridad

Asigne clases de tráfico antes de diseñar los reintentos. El envío de órdenes, las cancelaciones y los controles de riesgo no deberían quedar detrás de los paneles, las consultas históricas o las actualizaciones de clientes.

Defina cómo se comporta cada clase al alcanzar su cuota local y la cuota del proveedor. La cobertura de infraestructura de brokers de Trading Technology aporta contexto sobre los sistemas y las restricciones operativas que rodean esas decisiones.

Días 1 a 7: medir y establecer una política

Dedique la primera semana a crear un inventario de endpoints y establecer una línea de base. Recopile al menos 14 días de registros de solicitudes, si están disponibles, incluida una sesión volátil o un evento de mercado programado.

Registre el proveedor, la cuenta, el endpoint, el código de respuesta, la latencia, el número de reintentos y el propósito de la solicitud. Evite registrar credenciales o cargas útiles completas que contengan datos personales.

Los rangos habituales del mercado varían según el proveedor y el contrato. Estas cifras son supuestos de planificación para las pruebas iniciales de capacidad, no derechos garantizados. Confirme los límites reales con cada proveedor de API antes de establecer umbrales de producción.

Patrón de APIRango habitual del mercadoImplicación para el diseño
Cuota de lectura REST por clave o cuenta5 a 100 solicitudes por segundoAlmacene en caché los datos de referencia estables y limite las consultas periódicas
Cuota de envío de órdenes1 a 20 órdenes por segundoReserve capacidad para las rutas de órdenes y de riesgo
Margen para ráfagas breves2 a 10 veces la tasa sostenidaNo trate la capacidad para ráfagas como una tasa constante
Retry-After o retraso de recuperación1 a 30 segundos cuando se indiqueRespete la respuesta y evite reintentos sincronizados

Convierta el inventario en una política escrita. Establezca un límite local por debajo de la cuota del proveedor, normalmente del 70 al 85 % de la tasa sostenida documentada, para dejar margen ante el uso compartido y los errores de medición. Asigne un responsable identificado a cada conexión con un proveedor y un contacto de escalación para los cambios de cuota.

  • Documente los límites por cuenta, endpoint y clase de solicitud.
  • Establezca presupuestos por servicio y un presupuesto para toda la firma en el caso de credenciales compartidas.
  • Decida qué solicitudes pueden aplazarse, almacenarse en caché, agruparse o rechazarse.
  • Defina alertas para el uso sostenido, las respuestas 429, la antigüedad de las colas y el volumen de reintentos.

Días 8 a 21: implementar el plano de control

Desarrolle un componente de control de tasa para cada conexión con un proveedor, en lugar de permitir que cada servicio aplique su propia interpretación. Un token bucket resulta útil cuando se permiten ráfagas breves: los tokens se reponen a la tasa sostenida, mientras que la capacidad del bucket establece el tamaño máximo de la ráfaga.

Un leaky bucket o una cola con ritmo controlado ofrece una salida más uniforme cuando el proveedor espera una tasa constante. Cualquiera de estos enfoques necesita un límite de concurrencia independiente si las solicitudes pueden permanecer en curso durante mucho tiempo.

Limitar los reintentos y hacerlos seguros

Ante un HTTP 429, respete primero Retry-After si está presente. De lo contrario, aplique un backoff exponencial con jitter completo, por ejemplo, un retraso aleatorio entre cero y un límite máximo que aumente de 250 milisegundos a 8 segundos.

Establezca un número máximo de intentos y un plazo total. Si una operación ya no resulta útil cuando llega el reintento, descarte la solicitud en lugar de enviarla solo porque una biblioteca genérica lo permite.

No reintente automáticamente todos los errores. Un timeout después de enviar una orden deja el resultado en duda: es posible que el proveedor haya aceptado la orden aunque el cliente no haya recibido la respuesta. Utilice una clave de idempotencia cuando la API lo permita o reconcilie el estado de la orden antes de volver a enviarla. Trate los errores de validación y la mayoría de las demás respuestas 4xx como no reintentables. Para las respuestas 5xx, aplique reintentos limitados y un circuit breaker, con reglas independientes para los endpoints de lectura y de órdenes.

Proteger el tráfico crítico

Utilice colas de prioridad con reservas de capacidad explícitas. Por ejemplo, reserve una parte del presupuesto local para el envío de órdenes, las cancelaciones y las acciones de riesgo, y permita que las lecturas de menor prioridad utilicen el resto. La distribución exacta depende de la carga de trabajo. Una prueba inicial podría reservar del 60 al 80 % para las operaciones de trading y seguridad, pero mida si eso deja capacidad sin utilizar durante los periodos de calma.

Almacene en caché los metadatos de instrumentos y otras respuestas que cambian lentamente. Agrupe las lecturas concurrentes idénticas y distribuya las actualizaciones programadas con jitter para que los clientes no consulten todos al mismo minuto. Añada límites y tiempos de expiración a las colas. Una cola sin límite convierte una respuesta de cuota excedida en trabajo retrasado y obsoleto que puede llegar cuando las condiciones del mercado ya hayan cambiado.

Exponga métricas de solicitudes por endpoint y clase, tokens concedidos y denegados, respuestas 429, reintentos, profundidad de la cola, antigüedad de la solicitud más antigua, llamadas en curso y estado del circuit breaker. Genere alertas sobre tasas y tendencias, no ante cada respuesta 429 aislada. Un primer umbral útil es un uso de la cuota superior al 80 % durante cinco minutos, junto con una alerta más urgente cuando aumenten las tasas de rechazo o la antigüedad de las colas.

Días 22 a 30: probar los fallos y operar el sistema

Dedique los últimos nueve días a validar el comportamiento con carga controlada. Pruebe el tráfico normal, un pico de dos veces el nivel habitual, un proveedor que devuelva 429 con Retry-After, encabezados ausentes, respuestas lentas, timeouts y un breve pico de respuestas 5xx. Verifique que el cliente respete las cuotas entre varios servicios que comparten una clave. Pruebe también un reinicio: un proceso que olvida su presupuesto local puede generar una ráfaga inmediatamente después del despliegue.

Compruebe estos resultados en un entorno de staging o en una instalación de pruebas aprobada por el proveedor:

  • Las lecturas de baja prioridad reducen la carga antes que el tráfico de órdenes y de riesgo.
  • Los reintentos se distribuyen, se detienen al vencer su plazo y no duplican órdenes.
  • Las colas se mantienen dentro de sus límites y las solicitudes vencidas se descartan.
  • Los operadores pueden identificar el proveedor, la cuenta y el endpoint afectados desde un único panel.
  • La recuperación no libera una cola acumulada a una velocidad superior a la que permite la cuota posterior.

Redacte un breve runbook con el responsable de la cuota, el contacto del proveedor, los enlaces a los paneles y las acciones seguras. Indique cuándo pausar las consultas periódicas no críticas, reducir las tasas de actualización o desactivar una función. No indique a los operadores que aumenten los límites o vuelvan a enviar órdenes en cola sin comprobar la cuota del proveedor y el estado de las órdenes.

Revise la política después de cada cambio del proveedor, nueva conexión de cuenta o aumento sustancial del tráfico. Mantenga bajo control de versiones los supuestos sobre las cuotas e inclúyalos en la revisión de lanzamientos. Así se evita que un límite se convierta en una dependencia no documentada que solo salga a la luz durante un incidente.

Esta semana, asigne un responsable a una conexión con un proveedor y cree un inventario de cuotas para cada uno de sus endpoints.

Preguntas frecuentes

¿Qué debe hacer un cliente de API de un broker después de recibir HTTP 429?

Respetar el encabezado Retry-After si el proveedor lo envía. De lo contrario, aplicar un backoff exponencial con jitter, un número máximo de intentos y un plazo total. Evitar que todos los clientes reintenten al mismo tiempo.

¿Se deben reintentar automáticamente las solicitudes de órdenes?

Solo cuando sea posible determinar que el resultado es seguro. Puede producirse un timeout después de que el proveedor haya aceptado una orden, así que utilice una clave de idempotencia si está disponible o reconcilie el estado de la orden antes de volver a enviarla.

¿Qué margen debe dejar un broker por debajo de una cuota de API?

Un punto de partida práctico es limitar el uso local sostenido al 70 a 85 % del límite documentado. Ajuste el valor después de medir el tráfico que comparte una clave, el comportamiento del proveedor y los picos máximos.

¿Qué tráfico de la API de un broker debe tener prioridad?

Por lo general, el envío de órdenes, las cancelaciones y los controles de riesgo deben tener prioridad sobre los paneles, las consultas históricas y las actualizaciones rutinarias. Establezca presupuestos explícitos para que las lecturas de menor prioridad no consuman la capacidad necesaria para el trading y las acciones de seguridad.

¿Cómo debe probar una firma la limitación de solicitudes de una API?

Pruebe el tráfico normal y máximo, las respuestas 429, la gestión de Retry-After, los timeouts, las respuestas lentas y los errores del proveedor en staging o en una instalación de pruebas aprobada. Verifique que las colas tengan límites, que las órdenes se reconcilien de forma segura y que la recuperación sea controlada, sin enviar una ráfaga de solicitudes acumuladas.