Human in the loop en procesos grandes: graduar aprobaciones por riesgo

No todo se aprueba ni todo se automatiza. Graduar las aprobaciones por riesgo significa clasificar cada paso del proceso en dos ejes, qué tan rutinario es y qué tan reversible, y asignarle una de cuatro compuertas: registro, visto bueno de un rol, visto bueno con evidencia, o firma con doble revisión. La persona decide donde la decisión importa; lo demás corre solo y queda en bitácora con fecha y responsable.

Qué quiere decir el término y dónde se malentiende

«Human in the loop» es el nombre en inglés de una idea sencilla: hay una persona dentro del flujo que revisa lo que produce la IA antes de que tenga efecto. El problema no es la idea. El problema es cómo se implementa en un proceso grande, porque hay dos maneras de hacerlo mal y las dos se ven todos los días.

La primera es aprobar todo. Cada salida del agente espera a que alguien le dé clic. Al principio la persona lee; a las pocas semanas ya no lee, solo aprueba, porque el SLA se le viene encima. La compuerta existe en el diagrama y no existe en la práctica. Y encima el proceso va más lento que antes, porque el agente produce más rápido de lo que una persona puede revisar.

La segunda es automatizar todo. El agente corre de punta a punta y nadie firma nada. Funciona hasta que auditoría pregunta quién autorizó una salida que causó un problema, y la respuesta es «el sistema». En una empresa regulada, esa respuesta cierra el proyecto.

Graduar por riesgo es la tercera vía: decidir, paso por paso, qué tipo de compuerta merece cada uno.

Dos ejes bastan para clasificar cada paso

No hace falta una matriz de veinte criterios. Con dos preguntas se clasifica casi cualquier paso de un proceso de conocimiento.

¿Es rutinario? Un paso es rutinario cuando ya ocurrió muchas veces, los criterios para evaluarlo están escritos y el resultado se puede verificar contra una regla. Clasificar una tabla por dominio es rutinario. Decidir si un proyecto cumple la arquitectura de referencia no lo es.

¿Es reversible? Un paso es reversible cuando se puede deshacer con costo cercano a cero y sin que nadie fuera del equipo se entere. Regenerar un borrador es reversible. Enviar un expediente a una mesa de certificación, publicar un diccionario de datos o apagar un proceso en producción no lo es.

Cruzar los dos ejes da cuatro cuadrantes, y cada cuadrante tiene su compuerta.

Riesgo contra tipo de compuerta

Tipo de paso	Compuerta	Quién decide	Ejemplo
Rutinario y reversible	Corre solo, con registro en bitácora	Nadie en el momento; el dueño del carril revisa la bitácora cuando quiera	Clasificar más de 2,000 tablas en 17 dominios durante el levantamiento del estado actual de una plataforma de datos. Si una tabla quedó mal clasificada, se corrige la regla y se vuelve a correr.
Rutinario e irreversible	Visto bueno de un rol	El responsable del carril, en pantalla, con un clic	Enviar el expediente de certificación a la mesa de arquitectura. Una vez enviado entra a la cola con fecha, y retirarlo cuesta una junta. Lo aprueba el tech lead del proyecto.
Riesgoso y reversible	Visto bueno con evidencia adjunta	El responsable del carril, y el vidrio no deja aprobar sin el adjunto	Aceptar el linaje reconstruido de un proceso de datos crítico. Se puede corregir después, pero si está mal, la modernización se construye sobre un error. Lo aprueba el ingeniero dueño del proceso, con el resultado de la prueba del juez independiente adjunto.
Riesgoso e irreversible	Firma de quien tiene autoridad, con doble revisión	Un rol con autoridad formal más un segundo revisor distinto	Certificar el proyecto y liberarlo a construcción. Doce entregables contra una sola plantilla oficial; una vez certificado, el equipo empieza a gastar. Firma el arquitecto responsable de la mesa, con revisión previa de un segundo arquitecto.

Cómo se ve cada compuerta en el vidrio

En pantalla, cada compuerta tiene un estado: ámbar cuando espera a una persona, verde cuando pasó. La de registro nunca se pone en ámbar; pasa sola y deja una línea en la bitácora con la versión, la fecha y qué agente la produjo. La de visto bueno se queda en ámbar hasta que el responsable del carril la abre, revisa y aprueba o pide cambios. La de visto bueno con evidencia no se puede aprobar si el adjunto no está: el botón no aparece hasta que aparece la evidencia. La de firma exige dos personas distintas, y el vidrio no acepta que la misma cuenta haga las dos revisiones.

El rechazo es parte del diseño, no una excepción. Cuando el responsable pide cambios, el agente rehace la pieza y la vuelve a poner en la compuerta. La bitácora guarda las dos versiones y el comentario. Un proceso donde nadie rechaza nada no tiene compuertas; tiene un botón de siguiente.

Quién decide la graduación

La tabla de arriba es un punto de partida, no una regla nuestra. La graduación la decide el dueño del proceso con el área de riesgos o de gobierno interno, y se documenta en el índice del proceso antes de que corra el primer agente. Nosotros la proponemos en el diagnóstico; el cliente la revisa, la ajusta y la firma.

También cambia con el tiempo. Un paso que empezó con visto bueno puede bajar a registro cuando el dueño del carril acumula suficientes corridas sin rechazo como para confiar en la regla. Digamos que se acuerda que, después de cierto número de corridas aprobadas sin cambios, el paso se revisa para bajarlo de compuerta. Ese cambio también es una decisión: tiene responsable, fecha y queda en bitácora. Y puede subir de regreso si aparece un rechazo que nadie esperaba.

Lo que no se gradúa

Hay aprobaciones que el gobierno interno de la empresa exige que firme una persona, por política, por regulación o por contrato. Esas no se automatizan aunque el paso sea rutinario. Lo que sí cambia es lo que la persona recibe: en lugar de un correo con cinco adjuntos y una pregunta, recibe la pieza lista, con la evidencia junto, y el vidrio le dice qué sigue. Firma lo mismo que antes. Persigue menos.

Este es el cuarto movimiento del método, repartir en carriles, y depende de los tres anteriores: sin índice no hay pasos que clasificar, sin mapa no se sabe qué es reversible, y sin medidor el agente corre antes de tiempo. El detalle está en cómo funciona.

Si quieres saber cómo quedaría la tabla para tu proceso, con tus roles y tus pasos, eso es lo que sale del diagnóstico de dos semanas: el diseño de carriles con quién aprueba qué, dónde va cada candado y qué se puede automatizar sin firma.