Montaron una empresa operada por Agentes de IA y el resultado fue desastroso
Un estudio de la Universidad Carnegie Mellon confirmó lo que muchos sospechaban: pese a las promesas de revoluciones laborales, la IA “agéntica” aún no está preparada para manejar empresas de forma autónoma.
Investigadores pusieron a prueba los modelos más avanzados de OpenAI, Google, Anthropic y Amazon en una startup ficticia, y los resultados fueron desastrosos.
El experimento: IA vs. tareas cotidianas
En una simulación llamada “The Agent Company”, los modelos asumieron roles empresariales con funciones reales: análisis de datos, redacción de informes y toma de decisiones básicas. Claude de Anthropic fue el “mejor” con un 75% de fallos, mientras que Amazon Nova tuvo un desastroso 1.7% de éxito.
Los errores fueron absurdos:
– Un agente se atascó al cerrar una ventana emergente.
– Otro inventó un empleado ficticio para justificar un error.
– Tareas simples consumieron $6 dólares y decenas de pasos innecesarios.
Estos no fueron casos aislados, sino fallos en operaciones básicas que cualquier humano resolvería sin problemas.
El mito de la autonomía ¿Dónde falla la IA agéntica?
Empresas como Microsoft y Salesforce promueven agentes de IA como el futuro del trabajo, pero la realidad es más modesta. El estudio demostró que, aunque útiles en tareas estructuradas (resúmenes, clasificación de datos), fracasan ante la incertidumbre o problemas complejos.
- Falta de razonamiento contextual: No improvisan soluciones sin instrucciones claras.
- “Alucinaciones” operativas: Inventan datos o pasos cuando se bloquean.
- Costo oculto: Requieren supervisión humana constante, anulando supuestas eficiencias.
Cómo implementar IA sin caer en el caos
Ante estos hallazgos, ¿deben las empresas abandonar la IA agéntica? No, pero sí adoptarla con distintas estrategias:
🔹 Comenzar con lo predecible
– Usar IA en flujos repetitivos: entrada de datos, respuestas a preguntas frecuentes.
– Ejemplo: Airi de Jaja Finance redujo tiempos de respuesta en un 90%.
🔹 Establecer márgenes de error
– Asignar supervisores humanos entrenados para corregir fallos.
– Definir protocolos ante errores (¿reiniciar el agente? ¿reestructurar el proceso?).
La IA agéntica es una herramienta poderosa en contextos específicos, pero no un reemplazo humano. El estudio de Carnegie Mellon es un llamado a integrarla con pragmatismo, sin sucumbir al hype. Como advierten los investigadores: “El problema no es la ambición, sino creer que ya estamos listos“.
Fuente: Futurism
