La mayoría de las empresas ya tuvo un incidente con sus agentes de IA — y la mayoría de sus directivos cree que está protegida

Hay dos verdades que coexisten en las empresas este agosto. La primera: casi todas ya tienen al menos un agente de IA en producción — no como piloto, sino como parte de la operación cotidiana. La segunda: la gran mayoría tuvo un incidente de seguridad o privacidad relacionado con esos agentes en el último año. Dos estudios recientes, con una muestra amplia de responsables técnicos, documentan no solo la adopción masiva, sino la brecha entre lo que los directivos creen y lo que realmente ocurre dentro de su pila de agentes.

La brecha de confianza: el directivo cree que está protegido; las trazas dicen lo contrario

El hallazgo más revelador del estudio de Gravitee no es el de incidentes: es el contraste. La mayoría de los ejecutivos afirma que sus políticas los protegen contra acciones no autorizadas de sus agentes. Al mismo tiempo, la mayoría reporta incidentes. Ambos datos vienen del mismo conjunto de empresas. La ecuación produce la brecha de confianza más documentada del año en el mundo de la IA: quienes definen la estrategia creen estar cubiertos; quienes leen las trazas de producción saben que no.

Qué es el 'sprawl' de agentes — y por qué casi todas las empresas ya lo tienen

El sprawl es lo que ocurre cuando una organización despliega agentes sin un marco común: distintos equipos construyen distintos agentes con distintas herramientas, sin estándares compartidos, sin visibilidad central, sin propietario claro. Casi todas las empresas encuestadas por OutSystems reportan que ya lo tienen. Una parte relevante mezcla agentes propios y de plataformas externas sin un esquema de gobierno común — la misma situación que hace una década produjo la “shadow IT” en la nube, ahora repetida con agentes. Solo una minoría tiene una plataforma centralizada para gestionarlo.

El agente más peligroso no es el que falla — es el que funciona sin que nadie lo vea

Solo una minoría de empresas tiene visibilidad en tiempo real sobre lo que hacen sus agentes. En el resto, un agente puede tomar decisiones — responder a clientes, modificar registros, enviar información — sin que nadie pueda revisar qué hizo hasta horas o días después. El riesgo no es el agente que responde mal una consulta: ese fallo es visible y se corrige. El riesgo es el que funciona correctamente casi siempre, pero que de vez en cuando actúa fuera del guion sin dejar rastro auditable. Además, apenas una minoría trata a sus agentes como identidades independientes — el resto les asigna las mismas llaves API compartidas que usa el equipo, haciendo imposible separar qué acción tomó el agente de la que tomó una persona.

• Identidad propia por agente: cada agente tiene sus propios permisos, no llaves API del equipo — así se puede auditar exactamente qué hizo y revocar el acceso si algo falla.
• Visibilidad en tiempo real: alguien en la organización lee las trazas de conversación continuamente, no de forma retrospectiva cuando el problema ya ocurrió.
• Aprobación formal antes de producción: las empresas que obtienen aval completo de TI y seguridad antes de encender un agente reportan una tasa de incidentes claramente menor.
• Propietario nombrado: una persona con nombre y responsabilidad sobre cada agente — no un área, no un ticket de soporte que se abre cuando algo sale mal.