Los tres grados de autonomía de un sistema de IA (y cómo elegir el correcto)

¿Qué significa que un sistema de IA tenga "autonomía"?

Cuando hablamos de la autonomía de un sistema de IA, hablamos de cuánto puede actuar sin que una persona intervenga en cada paso. No es una etiqueta binaria de "tiene IA" o "no tiene IA": es una escala. Y como toda escala, se puede subir poco a poco o de golpe, sin darte cuenta de hasta dónde ha llegado.

La imagen útil aquí no es la de un interruptor de la luz, que solo tiene encendido y apagado. Es la de un mando de volumen: cada vuelta que le das no suma un poco más de sonido, multiplica lo que tienes que estar dispuesto a escuchar. Con la autonomía de la IA pasa lo mismo: cada grado que subes no añade un poco más de trabajo automático, multiplica lo que tienes que vigilar si algo sale mal.

Hay tres grados. Los vas a encontrar casi siempre nombrados en inglés, incluso en documentación escrita en español, así que conviene tener las siglas a mano: HIL (human in the loop), HOL (human on the loop) y autónomo. Son las que va a usar cualquier proveedor en su propuesta.

Vamos uno a uno.

Grado 1: HIL — humano en el bucle (human in the loop): alguien aprueba cada caso

En este grado, el sistema propone y una persona decide. Nada se ejecuta sin que alguien lo revise y dé el visto bueno antes de que ocurra.

Es el modelo del interventor de banco que tiene que firmar antes de que se mueva una cantidad por encima de un límite: la operación puede estar preparada al milímetro, pero no sale de la mesa sin esa firma.

Es el grado más lento, pero también el más seguro para procesos donde un error tiene consecuencias serias: decisiones legales, económicas o que afectan directamente a una persona.

Grado 2: HOL — humano sobre el bucle (human on the loop): alguien vigila y puede parar

Aquí el sistema ya actúa en tiempo real, sin esperar aprobación previa. Pero hay una persona con el panel delante, mirando lo que pasa, con capacidad y autoridad para intervenir o detenerlo si algo se desvía.

Es el modelo del controlador aéreo: no decide la ruta de cada vuelo uno por uno, pero está viendo todos los vuelos a la vez y entra en acción en cuanto algo se sale del plan.

Este grado multiplica la velocidad, porque el sistema ya no espera turno. Pero exige algo que muchas empresas dan por hecho sin comprobarlo: que la persona que vigila realmente tiene tiempo, información y margen para intervenir a tiempo, no solo el título de "supervisor".

Grado 3: autónomo (human out of the loop): el sistema va solo y escala las excepciones

En el tercer grado, el sistema actúa solo dentro de los límites que se le han definido, y solo avisa a una persona cuando encuentra un caso que no sabe resolver: una excepción.

Es el modelo del ascensor. Nadie decide cada trayecto ni vigila cada subida y bajada. Pero en cuanto algo falla, salta una alarma y entra en juego una persona.

Es el grado más eficiente, y también el que exige más trabajo previo: definir con precisión qué es una excepción, porque todo lo que no hayas anticipado, el sistema lo resolverá solo... para bien o para mal.

El error típico: elegir el grado por comodidad

El fallo más habitual no es técnico, es de criterio. Se elige el grado de autonomía por lo cómodo que resulta —automatizar todo lo posible, quitarse trabajo de encima cuanto antes— y no por lo que pasa el día en que el sistema se equivoca.

Un chatbot de recomendaciones de producto puede permitirse el grado 3 sin mayor riesgo: si se equivoca, el cliente ve una sugerencia rara y ya está. Un sistema que aprueba condiciones de un contrato, o que decide a quién se contacta primero en una lista de clientes en riesgo, no debería estar en el mismo grado solo porque "funciona bien casi siempre".

El grado correcto no es el que da menos trabajo esta semana. Es el que corresponde al coste real del error multiplicado por la frecuencia con la que puede ocurrir.

Esto, de hecho, no es solo un criterio de sentido común: el Reglamento europeo de IA (EU AI Act) exige para los sistemas de alto riesgo una "supervisión humana efectiva" —que las personas puedan entender lo que hace el sistema, decidir no usar su resultado e intervenir o detenerlo—. La norma no obliga a un grado concreto de los tres, pero sí obliga a justificar por qué el que has elegido es el adecuado para ese proceso.

¿Qué grado tiene hoy cada pieza de tu proceso?

La pregunta que merece la pena hacerse no es "¿tenemos IA o no?". Es esta: de cada pieza de tu operación que ya usa IA, ¿en qué grado está, y quién es la persona concreta detrás de ese grado? No un rol en un organigrama: una persona con nombre, tiempo y autoridad real para intervenir cuando toque.

Muchas empresas descubren, cuando se hacen esta pregunta con calma, que llevan meses en un grado más alto del que creían —y sin la figura humana que ese grado exige detrás.

Si quieres saber en qué punto está tu empresa en esto y en las demás áreas que determinan tu madurez digital, la Calculadora de Madurez Digital de Digital Transformations te da, en unos minutos, una foto por áreas —no una nota única— de dónde estás y qué te conviene mover primero.

¿Hablamos? https://www.digitransformations.com/madurez-digital

Contenido desarrollado con apoyo de la IA y supervisado por el equipo editorial de Digital Transformations