Un día, uno de mis agentes de IA tomó una decisión sin preguntarme. Y acertó. Esa es la parte que nadie te cuenta: lo que asusta de un agente autónomo no es que se equivoque. Es que acierte sin pedirte permiso. Entonces, ¿hasta dónde lo dejas decidir solo?
Para un gerente esto deja de ser teoría rápido. Un agente que solo sugiere es cómodo, pero lento. Un agente que decide y actúa es potente, pero te quita el control. Y la mayoría se queda en el extremo equivocado: o no le suelta nada, o le suelta todo. Los dos te explotan en la cara.
Yo manejo 16 agentes en producción. Algunos solo reportan. Otros deciden y ejecutan sin que yo lo pida: reordenan prioridades, reparten el trabajo, frenan algo que se está rompiendo. Al principio cometí el error obvio: les solté decisiones que no debía. Un agente marcó como terminada una tarea que todavía no estaba lista, porque para él los datos decían que sí. No estaba mal programado. Estaba decidiendo algo que no le tocaba decidir solo. Ahí entendí que el problema no era la IA. Era yo, sin una regla clara de qué puede decidir cada uno.
Así decido hoy qué le suelto a un agente. Una sola línea: delego la ejecución, no el criterio. En concreto: si una decisión es reversible y de bajo riesgo, el agente la toma solo. Si es irreversible o le cuesta caro a alguien, pasa por un control: el agente propone, un humano aprueba. La autonomía no es todo o nada. Es saber dónde poner el control.
Así que la pregunta no es si confías en la IA. Es qué decisiones estás dispuesto a soltar, y cuáles no. Si quieres construir tu propio Agent Squad, únete gratis a AI4Managers. Link en la descripción.