La mayoría de las empresas que invirtieron en IA generativa no recuperó su inversión. Un informe de 2025 de la iniciativa NANDA del MIT encontró que cerca del 95 % de las organizaciones que invirtieron en IA generativa no obtuvo un retorno medible. El motivo casi nunca es el modelo: es la forma de implementarlo. Intentar que un único agente resuelva un proceso completo, cargándole todas las reglas en un prompt, es la receta del fracaso.
¿Por qué fracasa la mayoría de los proyectos de IA generativa?
Las empresas son inherentemente complejas: tienen casos fortuitos, excepciones y procesos que dependen de varios interlocutores. Esas reglas no se resuelven agregándolas a un prompt; el resultado son prompts kilométricos, y ahí es donde empiezan las alucinaciones. Un agente de IA funciona bien cuando tiene un solo objetivo claro. En la ambigüedad es donde empiezan los errores.
¿Cuál es el costo real de un agente que alucina?
Un agente que inventa información tiene un costo doble.
El primero es directo, reputacional y monetario: cada conversación cuesta dinero. El costo de adquirir clientes no para de subir, así que desperdiciar ese tráfico con respuestas erróneas —o, peor, dañar la marca frente a un cliente— sale caro.
El segundo es más sutil: la falta de confiabilidad. Si un sistema responde bien el 60 % de las veces, alguien tiene que revisar el 100 % para saber qué estuvo bien y qué estuvo mal. El cuello de botella que la automatización prometía eliminar simplemente se traslada de lugar. Por eso, con la IA generativa, el valor o es completo o no existe: una automatización en la que no se puede confiar no es realmente una automatización.
¿Cómo se construye un sistema de IA confiable?
La respuesta se apoya en dos factores.
1. Sistemas multiagente autónomos. En lugar de un agente que intenta hacerlo todo, cada agente se encarga de un solo paso. En una clínica, por ejemplo: un agente recibe al paciente y perfila su necesidad, otro gestiona el agendamiento y el reagendamiento, otro confirma las citas y otro puede incluso conectarse a las pasarelas de pago. Cada uno con un objetivo único y acotado, que es justo lo que los hace confiables.
2. Cerrar el ciclo de retroalimentación. De nada sirve acumular miles de conversaciones si no se usan, de forma objetiva, para que los agentes mejoren más allá del prompt. El aprendizaje continuo es lo que separa un piloto que se estanca de un sistema que mejora solo.
De miles de errores a menos del 0,3 %: el caso de una clínica
Una clínica estética que maneja alrededor de 9.000 conversaciones al mes trabajó durante meses con un proveedor de agentes autogestionado y nunca logró resolver fallas graves:
- Alucinaciones: inventaba tratamientos y procedimientos que la clínica no ofrecía ni correspondían al caso, inventaba promociones inexistentes y ofrecía agendar sobre ellas, y daba información contradictoria sobre ubicación, precios y especialistas.
- Errores de flujo: confirmaba citas con fechas pasadas o erróneas, con el especialista o la hora equivocados; decía "agendado" sin haberlo hecho; ofrecía visitas domiciliarias inexistentes; repetía el saludo o enviaba el mensaje de cierre a mitad de la conversación.
- Errores de comportamiento: hablaba de política o de temas ajenos ante preguntas sobre tratamientos; cambiaba de idioma con pacientes que escribían en español; usaba "no sé, te paso a un humano" como salida por defecto; o dejaba de responder sin razón.
Hoy esa misma clínica opera con atria y mantiene una tasa de error en vivo por debajo del 0,3 %.