Desventajas de los agentes de IA — lo que un proveedor honesto te cuenta

Resumen rápido

Los agentes de IA ayudan mucho, pero no son magia. Tienen seis límites reales que un proveedor honesto te cuenta antes de cobrarte: a veces inventan, a veces tardan, pueden salir caros, no sirven para todo, necesitan mantenimiento, y hay reglas legales que cumplir. Ninguno de estos límites desaparece. Pero todos se controlan.

La diferencia entre un agente que aguanta años trabajando y uno que se cancela a los pocos meses es simple: si esos límites se previeron desde el principio, o si se descubrieron cuando ya estaba en marcha. Este artículo es la lectura honesta: qué revisar antes de gastar el primer peso.

1. A veces inventan respuestas

El límite más conocido: a veces el agente inventa una respuesta con mucha seguridad, y esa respuesta es falsa. No miente a propósito — simplemente arma frases que suenan bien aunque el dato no exista. Esto no se puede apagar del todo. Hasta los mejores agentes lo hacen de vez en cuando.

Lo peligroso es que un agente puede pasar todas las pruebas y aun así fallar con un caso que nadie probó. Por eso desconfía de quien te prometa que “nunca se equivoca”.

Cómo lo reduce InnovaBlack:

• El agente responde con base en tus documentos. Cuando hay políticas, manuales o reglas, el agente cita de dónde sacó la respuesta. Siempre puedes preguntar “¿de dónde salió esto?”.
• Revisamos lo importante. Cuando el agente da un número o un dato clave y existe la fuente real, se puede comparar contra ella antes de que salga.
• Cuando duda, pregunta. Si el agente no está seguro, en vez de inventar, pasa el caso a una persona.
• Las decisiones serias las aprueba un humano. Cosas que no se pueden deshacer —una transferencia, una aprobación, un mensaje formal— siempre las revisa alguien antes de salir.

2. A veces tardan unos segundos

Un agente sencillo responde casi al instante. Pero cuando tiene que pensar más o consultar varias cosas, puede tardar unos segundos. Si el agente trabaja en segundo plano —ordenando correos, por ejemplo— eso no se nota. Pero si está chateando en vivo con un cliente, esos segundos en silencio se sienten largos.

Cómo lo reduce InnovaBlack:

• La respuesta aparece escribiéndose. El cliente ve que el agente “está escribiendo” en lugar de esperar en blanco.
• Tareas simples, respuestas rápidas. Para preguntas fáciles usamos la opción más veloz; la potencia se reserva para lo complejo.
• Se aprovechan las respuestas repetidas. Si muchos preguntan lo mismo, no hace falta pensar la respuesta desde cero.
• Preparamos lo que se puede de antemano. Cuando se sabe qué va a necesitar, se deja listo antes de que el cliente escriba.

3. El costo se puede disparar

Cada respuesta de un agente cuesta un poco. Mientras pruebas, casi no se nota. El problema llega cuando el agente entra en operación real, el volumen crece, o el agente se queda dando vueltas atascado en un mismo problema. Ahí el costo se multiplica sin avisar, y la sorpresa llega con la cuenta de fin de mes.

Las causas más comunes de un costo descontrolado:

• El agente se queda en bucle intentando lo mismo una y otra vez.
• Una pregunta rara lo manda a explorar miles de caminos sin freno.
• Se le pide “pensar a fondo” sin un límite, y consume mucho más de lo esperado.
• Se paga varias veces por la misma pregunta porque no se guarda.

Cómo lo reduce InnovaBlack: el agente se diseña con un tope de gasto por respuesta, un límite para que no se quede en bucle y alertas cuando el costo del día se pasa de lo normal. Es parte de la vigilancia que hace Synthetic OS.

4. No sirven para todo

Esta es la trampa menos obvia. Un agente puede ser excelente en una tarea y, en la siguiente —que parece igual de fácil—, equivocarse feo. No hay una línea clara que separe lo que hace bien de lo que hace mal: es irregular y no salta a la vista.

Un experimento de campo con 758 consultores de Boston Consulting Group, publicado por investigadores de Harvard Business School y otras universidades, lo llamó la «frontera tecnológica irregular» (Dell'Acqua y coautores, 2023). En las tareas dentro de lo que la IA domina, quienes la usaron terminaron más tareas, más rápido y con mejor calidad. En una tarea elegida a propósito fuera de esa frontera, quienes usaron IA tuvieron 19% menos probabilidad de llegar a la respuesta correcta que quienes no la usaron. Es decir: confiar a ciegas es tan malo como no confiar nunca.

Cómo lo reduce InnovaBlack: probamos el agente en muchos tipos de tarea distintos para saber dónde acierta y dónde no. Definimos por adelantado en qué casos el agente decide solo y en cuáles debe pasar la pelota a una persona. Empezar por un solo proceso bien entendido evita meterlo donde no rinde.

5. Necesitan mantenimiento

Un agente no es algo que instalas y olvidas. Es como un empleado nuevo: hay que corregirlo, actualizarlo y vigilarlo. Si lo dejas solo, con el tiempo se llena de parches improvisados que después salen caros de arreglar. Las razones más comunes:

1. Las instrucciones cambian. El comportamiento del agente vive en las instrucciones que le diste. Tocar una sin cuidado puede romper otra cosa sin que lo notes.
2. Aparecen casos nuevos. La realidad trae situaciones que no estaban previstas. Hay que ir sumándolas a la lista de pruebas.
3. Cuesta saber qué pasó. Sin un registro de lo que el agente hizo y por qué, investigar un error toma horas. Con registro, toma minutos.
4. La tecnología de fondo se actualiza. Si el agente depende de detalles muy específicos, puede romperse cuando esa tecnología cambie.

Cómo lo reduce InnovaBlack: tratamos el mantenimiento como un servicio continuo, no como un extra. Guardamos las instrucciones de forma ordenada, dejamos un registro claro de cada acción del agente desde el primer día, y vamos mejorándolo con los errores reales que aparecen.

6. Hay reglas legales que cumplir

No damos asesoría legal y no sustituimos a tu área jurídica. Lo que sí conviene tener presente desde el inicio, sobre todo si manejas datos de personas o trabajas en un sector regulado:

• Datos personales. Si el agente procesa datos de tus clientes, revisa con tu área legal tu aviso de privacidad y el consentimiento que necesitas para ese uso. Cuando se puede, se ocultan los datos sensibles antes de que el agente los vea.
• Sectores con reglas propias. Si estás en salud, en servicios financieros o en otro sector regulado, pregunta a tu área legal qué reglas aplican a los datos y a las decisiones del agente. Cualquier cosa que toque decisiones serias conviene que quede registrada para una auditoría.
• Quién responde por qué. No des por hecho que la responsabilidad por un error del agente es del proveedor de la tecnología. Conviene dejarlo por escrito en el contrato desde el inicio.

Cómo lo reduce InnovaBlack: ocultamos los datos sensibles cuando se puede, dejamos cada decisión del agente registrada en una bitácora que tu equipo consulta desde la Oficina Agéntica, y dejamos claro en el contrato quién responde por qué. El análisis legal de tu caso lo hace tu área jurídica.

Qué revisar antes de lanzarlo

Lista mínima que usamos en InnovaBlack antes de dejar un agente trabajando con clientes reales. Si falta algo, todavía no está listo:

1. Lista de casos reales para probarlo, incluyendo los difíciles y raros, no solo los fáciles.
2. Nivel de error aceptable definido, y qué se hace si se pasa.
3. Registro de todo lo que hace el agente, para poder revisar cualquier caso después.
4. Un botón para apagarlo rápido si algo sale mal, sin tener que pedir permiso a media empresa.
5. Una forma fácil de reportar errores, para que tu equipo los señale y se vayan corrigiendo.
6. Un plan B: si el agente falla, cómo volver al proceso manual sin caos.
7. Permisos y aviso de privacidad al día.
8. Una persona responsable, con nombre y tiempo dedicado.

Preguntas frecuentes

Entonces, ¿vale la pena usar agentes?

Sí, cuando el proceso es buen candidato (aquí explicamos cómo saberlo) y se construye con los controles de este artículo. La clave es empezar por un solo proceso y hacerlo bien.

¿Cuál es el límite que más subestima la gente?

El costo que se dispara en operación. No se nota hasta que llega la cuenta del mes siguiente. La protección —topes de gasto, límites y alertas— es fácil de poner, pero es lo primero que se omite cuando el agente se arma a las prisas.

¿Qué hago si me prometen que el agente “no se equivoca”?

Te están vendiendo humo. Hoy ningún agente acierta siempre, y ninguna empresa seria lo afirma. La pregunta correcta no es “¿se equivoca?” sino “¿cada cuánto, qué tan grave es, y qué tenemos para detectarlo y frenarlo a tiempo?”.