Qué no delegar a un agente de IA y cómo supervisarlo
No delegues a un agente de IA decisiones con consecuencias legales, clínicas o económicas importantes, ni conversaciones de alta carga emocional, ni nada que no puedas revisar después. Todo lo demás se puede delegar de forma gradual, siempre que sepas supervisar al agente de IA: el agente empieza proponiendo, pasa a ejecutar lo de bajo riesgo con registro de cada acción, y solo actúa solo cuando ha demostrado fiabilidad. Supervisar un agente de IA se apoya en cuatro pilares: permisos mínimos, aprobación humana en lo importante, registro de todo y revisión periódica de resultados.
¿Por qué hay que ponerle límites a un agente de IA?
Porque un agente de IA, por muy bueno que sea, puede equivocarse. Los modelos de lenguaje pueden interpretar mal un mensaje ambiguo, apoyarse en un dato desactualizado o responder con una seguridad que no corresponde con la realidad. En una conversación de chat, un error es una respuesta incorrecta. En un agente que escribe en tu agenda, envía mensajes o toca tu facturación, un error es una acción. Por eso la pregunta útil no es "¿puede hacerlo?" sino "¿qué pasa si lo hace mal y cuánto cuesta deshacerlo?".
¿Qué no delegar a un agente de IA?
1. Decisiones clínicas, legales o fiscales
El agente puede recoger datos, preparar un resumen o señalar una posible incidencia. La decisión (diagnóstico, interpretación de un contrato, criterio fiscal) corresponde a un profesional con responsabilidad. En una clínica, por ejemplo, el agente puede gestionar la agenda, pero no valorar si un síntoma es urgente: ante cualquier señal de urgencia debe derivar a una persona de forma inmediata.
2. Pagos, descuentos y condiciones económicas
El agente puede preparar un presupuesto o proponer un descuento dentro de una política que le hayas fijado. Aprobar un cambio de precio fuera de esa política, devolver dinero o autorizar un pago debe pasar por una persona.
3. Conversaciones con carga emocional
Quejas graves, malas noticias, clientes enfadados, duelos, situaciones de ansiedad. Ahí el cliente no busca eficiencia, busca ser escuchado. Un agente debe detectar el tono y pasar el testigo a una persona rápido y con todo el contexto, para que nadie tenga que repetirse.
4. Acciones irreversibles o difíciles de deshacer
Borrar registros, enviar comunicaciones masivas, cancelar contratos, modificar datos maestros. Si no hay botón de deshacer, hay aprobación humana.
5. Tratamiento de datos sensibles sin base legal clara
Datos de salud, datos de menores, datos que revelen origen, ideología o situación económica delicada. El agente puede intervenir si hay una base legal, un encargado de tratamiento bien definido y medidas técnicas adecuadas. Si no las hay, no. Lo desarrollamos en IA en tu pyme y la ley.
6. Relaciones comerciales de alto valor
Tus tres mejores clientes no deben hablar con un agente cuando quieren renegociar. El trato personal forma parte de lo que pagan.
¿Qué niveles de autonomía puede tener un agente?
Un enfoque útil es pensar en escalones. Un agente no nace autónomo: se gana la autonomía con resultados.
| Nivel | Qué hace el agente | Quién decide | Ejemplo |
|---|---|---|---|
| 1. Asistente | Propone una respuesta o acción | Una persona la revisa y la envía | Borrador de presupuesto |
| 2. Con aprobación | Prepara la acción completa | Una persona pulsa "aprobar" | Reasignar un hueco de agenda |
| 3. Autónomo con registro | Ejecuta solo en tareas de bajo riesgo | Revisión periódica de lo hecho | Recordatorio de cita por WhatsApp |
| 4. Autónomo con supervisión | Ejecuta, y avisa solo de excepciones | Una persona interviene en las alertas | Seguimiento de facturas pendientes |
La mayoría de pymes deberían empezar en los niveles 1 y 2 para cada tarea nueva, y subir de nivel solo cuando los datos de las primeras semanas lo justifiquen.
¿Cómo se supervisa un agente de IA en la práctica?
Permisos mínimos
El agente solo accede a lo que necesita. Si gestiona citas, no necesita ver la facturación. Si responde por WhatsApp, no necesita acceso al historial clínico completo. Limitar permisos reduce el impacto de cualquier error.
Aprobación humana en los puntos críticos
Se define de antemano qué acciones requieren confirmación: pagos, cambios de precio, cancelaciones, comunicaciones fuera de plantilla. El agente prepara la acción, la persona aprueba con un clic.
Registro de todo lo que hace
Cada acción queda anotada: qué hizo, cuándo, con qué datos y por qué. Un buen registro permite auditar, corregir y aprender. Sin registro, no hay supervisión posible.
Regla de escalado clara
El agente tiene una lista explícita de situaciones en las que debe pasar el caso a una persona: palabras que indican urgencia o queja, importes por encima de un umbral, falta de datos, baja confianza en su propia respuesta. Cuando duda, escala; no improvisa.
Revisión periódica de resultados
Durante las primeras semanas, una persona revisa una muestra de las conversaciones y acciones cada día. Luego, cada semana. Se miden errores, escalados y satisfacción, y se ajusta. Un agente sin revisión se degrada.
Un interruptor de parada
Debe ser sencillo pausar el agente al instante si algo va mal. Parece obvio, y por eso es lo que más se olvida.
¿Qué errores son más frecuentes al supervisar mal un agente?
- Dar acceso total "por comodidad". Genera riesgos innecesarios y complica cumplir la normativa.
- Saltarse la fase de pruebas. Un agente que funciona en tres ejemplos no está listo para cientos de casos reales.
- No definir quién es responsable. Si nadie revisa los registros, el agente trabaja sin red.
- Esconder que es una IA. Además de poco honesto, desde agosto de 2026 el Reglamento europeo de IA exige informar a las personas de que interactúan con un sistema de IA cuando no sea evidente. Más en IA en tu pyme y la ley.
- Medir solo el ahorro de tiempo. También hay que medir errores, quejas y casos escalados.
¿Qué significa todo esto para una pyme?
Que un agente de IA bien supervisado es una herramienta muy útil, y uno mal supervisado es un riesgo. La diferencia no es la tecnología sino el diseño: qué hace, qué no hace, quién lo revisa y qué pasa cuando duda. Para ver qué tareas encajan bien, consulta 7 tareas que un agente puede hacer hoy en una pyme, y para la definición de base, qué es un agente de IA.
Cómo lo implementamos en AIMONS
Diseñamos cada agente con sus límites desde el primer día: permisos mínimos, una lista clara de situaciones en las que debe escalar a una persona, registro de cada acción y un panel de seguimiento. Empezamos siempre en un nivel de autonomía bajo (el agente propone o pide aprobación) y subimos de nivel solo cuando los datos de las primeras semanas lo respaldan. Si algo falla, se puede pausar al instante.
Preguntas frecuentes
¿Puede un agente de IA equivocarse?
Sí. Los modelos de lenguaje pueden malinterpretar un mensaje, usar un dato desactualizado o responder con más seguridad de la que corresponde. Por eso se diseñan con límites, aprobación humana en lo importante, registro de acciones y revisión periódica.
¿Qué es "human in the loop"?
Es el principio de mantener a una persona en el circuito de decisión. En la práctica significa que el agente propone y una persona aprueba antes de las acciones importantes, o que revisa de forma periódica lo que el agente ha hecho solo.
¿Cuánto tiempo hay que supervisar un agente de IA?
Durante las primeras semanas conviene revisar a diario una muestra de lo que hace. Cuando los resultados son estables, la revisión pasa a ser semanal o por alertas. Nunca desaparece del todo.
¿Puedo evitar que el agente hable de ciertos temas?
Sí. Se definen los temas permitidos, los que se derivan a una persona y los prohibidos. Un buen diseño incluye pruebas específicas para comprobar que el agente respeta esos límites.
Relacionado: qué es un agente de IA · 7 tareas que un agente de IA puede hacer hoy · IA en tu pyme y la ley
¿Quieres ver cómo se diseñaría la supervisión de un agente en tu negocio?
El primer paso es gratis