Latencia del enrutamiento de órdenes: dónde va cada milisegundo

Racks de servidores que ilustran la latencia del enrutamiento de órdenes en la infraestructura de trading
Photo by panumas nikhomkhai on Pexels

En casi todos los entornos de trading, el primer gráfico de latencia muestra una cifra: el tiempo desde que se envía una orden hasta que se recibe la confirmación. Es fácil recopilarla y difícil diagnosticarla. Ese intervalo puede incluir la red del cliente, un gateway del broker, comprobaciones de riesgo, colas internas, una conexión con el mercado y el propio procesamiento del mercado. Una confirmación lenta no indica cuál de esos elementos causó la demora.

Para un equipo de ingeniería, la pregunta útil no es si una ruta es rápida. Es dónde se emplea el tiempo, cómo cambia la distribución con la carga y si el evento medido es el que le importa a la mesa. Una ejecución, una confirmación del mercado y una respuesta del broker son eventos distintos.

La ruta es una cadena, no un único temporizador

Defina eventos explícitos de inicio y fin

Defina la medición antes de comparar rutas. Un intervalo del lado del cliente podría ir desde el momento en que una solicitud de API está lista para enviarse hasta que el cliente recibe una confirmación.

Un intervalo del lado del broker podría ir desde que el gateway recibe el primer byte hasta que envía el primer byte de respuesta. Un intervalo del mercado podría ir desde el envío de salida del broker hasta la recepción de la confirmación del mercado.

Estos intervalos solo se solapan si sus límites se diseñan para ello. Mantenga marcas de tiempo separadas para:

  • Creación de la solicitud del cliente, escritura en el socket y recepción de la respuesta.
  • Entrada al broker, validación completada, decisión de riesgo y envío de salida.
  • Confirmación del mercado, informe de ejecución y notificación al cliente.

No denomine «tiempo de ejecución» a todo el intervalo entre el cliente y la confirmación. Incluye el transporte en ambas direcciones y puede incluir el tiempo de espera para serializar o reenviar una respuesta. Los informes de ejecución pueden llegar después de la confirmación de una orden, mientras que una orden ejecutable puede completarse antes de que el cliente vea esa confirmación.

Distinga los relojes del tiempo transcurrido

Use un reloj monotónico para medir duraciones dentro de un mismo proceso. Las marcas de tiempo de reloj de pared son útiles para correlacionar eventos entre sistemas, pero el desfase entre relojes puede hacer que una etapa breve parezca negativa o más larga de lo que fue. Sincronice los hosts con PTP cuando la infraestructura lo permita, supervise el desfase y registre junto a la telemetría la fuente del reloj y el error estimado.

Para una sola solicitud, calcule las duraciones de las etapas a partir de marcas de tiempo monotónicas locales siempre que sea posible. La resta entre hosts es menos fiable si no conoce su desfase relativo. Si un gateway informa de 200 microsegundos de procesamiento, pero su reloj está 800 microsegundos atrasado con respecto al servicio de riesgo, el desglose aparente de las etapas es ficticio. Este es un aspecto básico de la medición que se aborda en la cobertura más amplia sobre ingeniería de infraestructura de trading.

Dónde se acumula la latencia

Procesamiento en el broker

El análisis sintáctico, las consultas de símbolos y cuentas, las comprobaciones de permisos, los controles de crédito y la validación de órdenes se sitúan entre la entrada y la selección de la ruta. En una ruta en memoria bien instrumentada, las comprobaciones individuales suelen tardar desde fracciones de milisegundo hasta unos pocos milisegundos. El mayor riesgo es una dependencia síncrona: un fallo de caché remota, una consulta a la base de datos, la contención de bloqueos o un servicio de riesgo serializado pueden convertir una ruta breve en una ruta variable.

Mida tanto el tiempo de servicio como la espera en cola. Un servicio de riesgo puede informar de una duración de procesamiento de 0.4 ms mientras las solicitudes esperan 12 ms en su cola de entrada. Del mismo modo, un gateway puede tener un uso bajo de CPU y aun así acumular demoras detrás de una única sesión FIX, un bucle de eventos congestionado o una conexión posterior con capacidad limitada.

Red y ruta al mercado

El tiempo de transporte depende de la distancia física, el diseño de la red y el tipo de conexión. La coubicación puede reducir considerablemente el componente de red, pero no elimina el procesamiento del gateway, las colas del mercado ni el procesamiento de la bolsa.

Un broker que enruta a través de un centro de datos regional puede añadir varios milisegundos frente a una conexión cruzada directa. El acceso a internet pública puede añadir decenas de milisegundos y una mayor variabilidad, especialmente para usuarios alejados del punto de acceso del broker.

La tabla presenta rangos habituales del mercado para la planificación y la investigación, no garantías de servicio. Los resultados reales varían según el mercado, la geografía, el protocolo, el tipo de orden y la carga. Trate cada fila como un intervalo independiente, no como un conjunto de cifras que haya que sumar sin más.

Tramo de la rutaRango habitual del mercadoQué incluye el intervalo
Del cliente al punto de acceso del broker, en un sentido5-30 ms; 30-150 ms en p99 para muchas rutas de internetRed de acceso, distancia geográfica y entrada al punto de acceso
Análisis sintáctico y validación del gateway0.1-2 msDecodificación del protocolo, comprobaciones básicas y procesamiento de enrutamiento en el proceso
Comprobaciones de riesgo y cuenta0.2-5 ms; 2-10 ms o más con dependencias síncronasLímites, crédito, permisos y llamadas a servicios
Espera en la cola internaPor debajo de 1 ms cuando no hay congestión; 5-50 ms durante periodos de contenciónEspera por trabajadores, sesiones o capacidad posterior
Del broker al mercado y vuelta de la confirmación0.1-2 ms con coubicación; 2-20 ms a nivel regional; 10-80 ms en rutas de internet más ampliasIda y vuelta de la red, más la respuesta del mercado y el procesamiento del broker

Estos rangos combinan intervalos de ida y de ida y vuelta, tal como se indica en la primera columna. No los compare sin igualar los límites. Por ejemplo, una ida y vuelta entre el broker y el mercado no se puede comparar directamente con una medición de ida del cliente al punto de acceso.

Mida las distribuciones por ruta

Use percentiles, no solo promedios. Una media de 4 ms puede ocultar una ruta que normalmente tarda 1 ms y que, en ocasiones, tarda 80 ms. Siga p50, p95, p99 y, cuando el volumen de tráfico lo permita, p99.9. Incluya el número de observaciones y la ventana temporal. Un p99 basado en unos pocos cientos de órdenes es un fundamento débil para decidir sobre capacidad.

Segmente los datos para que un instrumento o una sesión con mucho tráfico no desaparezca dentro de un agregado. Entre las dimensiones útiles se incluyen:

  • Mercado, grupo de cuentas, símbolo, tipo de orden y decisión de enrutamiento.
  • Sesión de protocolo, instancia del gateway, región y ruta de red.
  • Estado del mercado, tasa de órdenes, tasa de mensajes y estado de las dependencias del servicio de riesgo.

Haga seguimiento de los rechazos, los tiempos de espera agotados, las retransmisiones y las rutas de cancelación o modificación junto con la latencia de las órdenes nuevas. Los promedios pueden mejorar mientras empeoran los resultados operativos si las solicitudes lentas agotan el tiempo de espera y desaparecen de la muestra de órdenes completadas. Registre las solicitudes descartadas y sin finalizar, y defina si la cifra de latencia termina en la primera confirmación o en el informe de ejecución final.

En un panel práctico, muestre como series separadas el procesamiento del broker desde la entrada hasta la salida, la espera en cola, el tiempo desde el envío al mercado hasta su confirmación y la ida y vuelta del cliente. Añada un identificador de solicitud o de correlación que se conserve en cada salto entre servicios. El muestreo puede reducir el almacenamiento, pero conserve los recuentos de eventos sin muestrear y mantenga trazas completas durante una ventana de diagnóstico controlada. Una captura breve durante un incidente de p99 suele ser más útil que meses de datos agregados sin detalles por etapa.

Cambie un componente y luego compruébelo

Antes de optimizar, establezca una línea de base durante la actividad normal y en un pico representativo. Compare rutas y condiciones de mercado equivalentes. Después cambie un elemento, como el número de trabajadores del gateway, la ubicación del servicio de riesgo, la capacidad de las sesiones o la ruta de red, y compruebe tanto la distribución de latencia como la tasa de fallos.

Las intervenciones habituales implican compensaciones:

  • Añadir trabajadores puede reducir la espera en cola, pero aumentar la contención, los cambios de contexto y la concurrencia de los sistemas posteriores.
  • El procesamiento por lotes puede mejorar el rendimiento, pero añade espera para las órdenes que llegan al inicio de un lote.
  • Las cachés locales pueden evitar llamadas de red, pero introducen riesgos de invalidación y de límites desactualizados.
  • Las validaciones adicionales pueden añadir tiempo medible, pero eliminar un control puede crear una exposición inaceptable.

Las pruebas de reproducción ayudan a aislar los cambios de software, pero una reproducción que no refleje la profundidad de las colas de producción, la variabilidad de las respuestas del mercado y el comportamiento de la red subestimará la latencia de cola. Combine las pruebas de carga con la telemetría de producción y establezca umbrales de alerta para los percentiles y la duración sostenida del incumplimiento. Es posible que una sola orden lenta sea esperable; un p99 creciente en un grupo de rutas indica un problema de capacidad o de dependencias.

Registre la versión, la configuración, la composición del tráfico y el estado de los relojes para cada comparación. Así, un cambio de latencia se podrá interpretar durante la revisión de una versión o un incidente, en lugar de ser un gráfico sin contexto operativo. El error que probablemente seguirá cometiendo la mayoría de los lectores es tratar un único promedio de extremo a extremo como la latencia de la ruta.

Preguntas frecuentes

¿Cómo debe medir un broker la latencia del enrutamiento de órdenes?

Registre marcas de tiempo de eventos explícitos en los límites del cliente, el gateway, el servicio de riesgo y el mercado. Use relojes monotónicos para las duraciones dentro de un proceso, correlacione eventos entre servicios e informe de percentiles junto con el número de solicitudes.

¿Qué percentil de latencia importa más en el enrutamiento de órdenes?

Siga p50, p95 y p99 para mostrar el comportamiento habitual y el de cola. Use p99.9 solo cuando la ruta tenga suficiente volumen para que la estimación sea significativa, y revise por separado los tiempos de espera agotados y las solicitudes incompletas.

¿Qué causa una latencia alta en el enrutamiento de órdenes de un broker?

Entre las causas habituales se incluyen la distancia de red, las colas internas, las llamadas síncronas a servicios de riesgo o de datos, la contención de sesiones FIX y las demoras del mercado de destino. Las mediciones por etapa ayudan a distinguirlas.