MLOps y monitorización que mantiene sus modelos funcionando en producción

Tratamos un modelo desplegado como un sistema vivo, con monitorización, detección de deriva, reentrenamiento y pistas de auditoría incorporadas desde el principio.

Un modelo que rindió bien en un notebook no es algo terminado. En cuanto se topa con tráfico real, sus entradas cambian, su precisión deriva y sus decisiones empiezan a importar a personas. El trabajo que lo mantiene honesto es ingeniería, no un lanzamiento único.

Construimos la capa operativa alrededor de su modelo para que siga preciso, observable y rindiendo cuentas mucho después del primer despliegue. Esta es la mitad de producción de la analítica predictiva, hecha por las mismas personas que mantienen nuestro propio producto en marcha.

Ver analítica predictiva
salud del modelo
en vivo
precisión
estable
latencia
dentro del SLO
deriva de entrada
vigilar
último reentrenamiento
registrado
señal de derivaventana de 14 días

dentro de los límites, alerta armada

Un modelo dejado solo tras el lanzamiento deja de acertar en silencio

La mayoría de los modelos se puntúan una vez, en el lanzamiento, y luego se dejan solos. El mundo en el que se entrenaron sigue moviéndose. El comportamiento de los clientes cambia, una fuente de datos aguas arriba cambia de formato en silencio, una categoría que era rara se vuelve común. El modelo sigue devolviendo respuestas seguras mientras su precisión real cae, y nadie lo nota hasta que una decisión sale visiblemente mal.

Para entonces las preguntas son difíciles de responder. Qué versión hizo esta predicción, con qué entradas y por qué. Cuándo empezó a resbalar la calidad. Quién aprobó el último reentrenamiento. Sin monitorización, registro y un camino claro de reentrenamiento en su sitio, un modelo en producción es un pasivo que no puede ver, y cada vez más uno que tiene que explicar a un regulador.

La producción es un bucle, no un lanzamiento

Un modelo en vivo corre en un bucle continuo, y construimos las operaciones que lo mantienen girando.

12345EN VIVONO TERMINADO
  1. Desplegar

    El modelo se lanza a tráfico real.

  2. Monitorizar

    Se siguen precisión, latencia, entradas y salidas.

  3. Detectar deriva

    Los cambios en datos o calidad disparan una alerta.

  4. Reentrenar

    Se valida un candidato y luego se promueve.

  5. Entregar

    Su equipo lo opera, con nosotros fuera del bucle.

Auditar, diseñar, construir, entregar

Pequeños incrementos revisados sobre infraestructura que usted controla. Terminamos entregando el sistema a su equipo, no manteniéndolo dependiente de nosotros.

Auditoría

Miramos lo que ya tiene en producción, dónde se observa el modelo y dónde está ciego, y documentamos los riesgos reales en términos sencillos antes de proponer nada.

Diseño

Acordamos qué monitorizar, qué señales de deriva importan, cuándo debe activarse el reentrenamiento y qué debe capturar la pista de auditoría, dimensionado a su exposición regulatoria y a su equipo.

Construcción

Implementamos la monitorización, las alertas, el reentrenamiento y el registro en su pipeline existente, agnósticos de herramienta y sobre infraestructura que usted controla, con el trabajo revisado en pequeños incrementos.

Entrega

Documentamos cómo funciona, formamos a quienes lo van a operar y lo dejamos en condiciones de operar y ampliar el sistema sin nosotros en el bucle.

Un incidente, de principio a fin

Un paso real por el bucle de arriba, registrado tal como ocurrió: la alerta, el diagnóstico y la recuperación.

Registro del incidenteRecuperado
  1. 03:14+0 min

    Alerta disparada

    La deriva en tres características de entrada cruza el umbral y avisa automáticamente al ingeniero de guardia, antes de que nadie esté mirando un panel.

  2. 03:19+5 min

    Diagnosticado

    El registro de auditoría rastrea la causa en minutos: un cambio de esquema en un sistema previo, con el modelo comportándose exactamente como fue entrenado.

  3. 09:02+5 h 48 min

    Reentrenamiento disparado

    Un modelo candidato se entrena con los datos corregidos y se valida contra el activo antes de que se despliegue nada.

  4. 09:41+6 h 27 min

    Recuperación confirmada

    El candidato se promueve, la versión anterior se retira, y toda la secuencia queda escrita en el registro de auditoría.

Hecho para el EU AI Act desde el principio

La conservación de registros, la transparencia y la supervisión humana son obligaciones para muchos sistemas de IA, no extras opcionales. Mapeamos cuáles aplican al suyo y las incorporamos a cómo se registra y opera el modelo.

Registro de auditoría por predicción
  • pred_7f2a1v14.209:41:03Registrado
  • pred_7f2a2v14.209:41:07Registrado
  • pred_7f19ev14.103:14:02Marcado
  • pred_7f1a0v14.103:12:55Registrado

Somos ingenieros, no su asesoría legal. Hacemos el sistema auditable y dejamos la firma formal de cumplimiento a sus asesores.

Con qué se queda

  • Una vista de monitorización en vivo

    Dashboards y señales de precisión del modelo, calidad de datos y comportamiento en el tiempo, legibles tanto por ingenieros como por las personas responsables de las decisiones.

  • Alertas de deriva y calidad

    Detección configurada que avisa a la persona adecuada cuando las entradas o las predicciones se salen de los límites acordados, conectada a los canales que ya usa.

  • Un proceso de reentrenamiento documentado

    Un camino definido y repetible para refrescar el modelo, validar el candidato contra el actual y promoverlo con seguridad y opción de reversión.

  • Una capa de auditoría y registro

    Registros versionados de predicciones, entradas y cambios del modelo, estructurados para responder preguntas de sus propios equipos o de un revisor externo.

  • Una entrega de operaciones

    Runbooks y una sesión de acompañamiento que dejan a su equipo en condiciones de operar, depurar y ampliar el sistema, con las obligaciones del EU AI Act claramente mapeadas.

Aplicamos esta disciplina a nuestro propio producto, que monitoriza sus reglas en 55 jurisdicciones de IVA, donde un resultado erróneo y sin explicar no es una opción, y mantiene el sistema registrado y conservado con el mismo estándar de producción que aplicamos para los clientes. Ese producto es Pileform, en uso de producción diario. Esta página es la continuación operativa de nuestro trabajo de analítica predictiva: el mismo modelo, mantenido honesto después de entregarse.
PileformEl propio producto de Encelyte, monitorizado con el mismo estándarPileform

Mantenga su modelo honesto tras el lanzamiento. Si tiene un modelo en producción y sin una visión clara de cómo está rindiendo, ese es un riesgo que vale la pena cerrar antes de que aflore por sí solo. Tráiganos lo que tiene y empezaremos con una auditoría honesta de dónde se observa y dónde está ciego.