Niveles de autonomía de un agente de IA: cómo se dan los permisos sin perder el control
La pregunta que frena la mayoría de los proyectos no es si la tecnología funciona: es qué pasa el día que el software haga algo que nadie quería. La respuesta no es prometer que no ocurrirá. Es conceder la autonomía por tramos, con la condición de subida escrita y con la marcha atrás preparada.
Los cuatro tramos
- Observa. El agente ve el proceso y propone lo que haría, sin tocar nada. Su equipo compara sus propuestas con lo que habría decidido. Es el tramo donde se descubre si el criterio escrito es de verdad el criterio de la casa.
- Propone. Deja el trabajo hecho —el correo redactado, el documento preparado, la reprogramación calculada— y una persona lo confirma en dos clics. Aquí ya se ahorran horas, porque lo que costaba no era pulsar el botón.
- Ejecuta con visto bueno. Actúa cuando el responsable lo autoriza, caso a caso. Sirve para lo que toca dinero, clientes o planificación.
- Ejecuta en un ámbito acotado. Actúa sin preguntar dentro de límites escritos: qué documentos, qué importes, qué excepciones escalan siempre. Fuera de ese ámbito, vuelve a pedir visto bueno.
Qué hace falta para subir de tramo
No se sube por calendario ni porque el proveedor lo proponga. Se sube cuando hay acuerdo entre lo que propuso el agente y lo que habría hecho la persona, sostenido en el tiempo y sobre casos reales, incluidas las excepciones.
Y se sube por proceso, no en bloque. Un agente puede estar ejecutando sin preguntar en reclamación de cobros y seguir en observación en reposición de almacén, porque el coste de equivocarse no es el mismo.
La condición de subida se escribe antes de empezar. Si no está escrita, la conversación se repite en cada comité y siempre gana quien más miedo tenga ese día.
Y cómo se baja
Igual de importante: retirar un permiso tiene que ser inmediato y no puede romper nada. Si quitar autonomía a un agente obliga a desmontar la integración, el diseño está mal.
Por eso los permisos se dan por proceso y quedan registrados. Bajar un tramo debería ser una decisión de gestión, no un proyecto técnico.
Lo que hace que todo esto sea auditable
De cada actuación queda escrito qué vio el agente, qué criterio aplicó, qué hizo, con qué resultado y quién lo autorizó. Ese registro es lo que convierte «el software mandó un correo» en algo que se puede revisar, explicar a un cliente o enseñar en una auditoría.
Es también lo que permite discutir con datos si el criterio escrito era el correcto, en vez de discutir impresiones.