Agentes de IA: el software dejó de responder y empezó a actuar
La discusión sobre inteligencia artificial se corrió de lugar: el problema ya no es qué contesta un modelo, sino qué hace un agente en nombre de la organización —y si alguien puede probarlo después.
Durante los últimos dos años discutimos la inteligencia artificial como si fuera un problema de contenido: qué responde el modelo, si alucina, si discrimina, si reproduce material ajeno. Esa discusión no terminó, pero quedó corta. Lo que hoy se está desplegando en las organizaciones de la región no responde: ejecuta. Abre un ticket, consulta una base, escribe en un CRM, cruza un padrón, aprueba un reintegro, contesta un correo, invoca a otro sistema y, cada vez con más frecuencia, invoca a otro agente.
Ese desplazamiento —del asistente al agente— no es una mejora de producto. Es un cambio de naturaleza. Un modelo que sugiere deja al humano en el centro de la decisión. Un agente que actúa lo corre del centro. Y cuando el humano se corre, se corren con él tres cosas que el Derecho necesita para funcionar: la autoría del acto, la voluntad que lo respalda y la prueba de lo que efectivamente ocurrió.
El punto ciego: nadie sabe cuántos agentes tiene
En los relevamientos que venimos haciendo en Data Governance Latam, la pregunta que más incomoda no es sobre modelos ni sobre proveedores. Es mucho más simple: ¿cuántos agentes están corriendo hoy en su organización, con qué credenciales y contra qué datos? La respuesta casi nunca existe en un documento. Existe, en el mejor de los casos, en la cabeza de tres personas de distintas áreas que nunca se sentaron juntas.
Esto no ocurre por negligencia. Ocurre porque la adopción de agentes no pasa por el circuito clásico de compra de tecnología. Vienen embebidos en suites que la empresa ya tiene licenciadas, se activan con un toggle, se configuran desde un área de negocio y se conectan a los mismos repositorios donde están los datos personales, las historias clínicas, los legajos del personal, la cartera comercial. El resultado es un parque de automatismos que crece más rápido que el inventario que debería describirlo.
Un agente no es una herramienta más: es un tratamiento de datos con autonomía operativa y credenciales propias.
Los riesgos que no están en el checklist
El análisis de riesgo tradicional de IA —sesgo, exactitud, transparencia— sigue siendo necesario, pero no alcanza para describir lo que introduce un agente. Hay cuatro problemas que aparecen sistemáticamente y que rara vez están cubiertos por las políticas vigentes:
- Permisos heredados. El agente suele operar con las credenciales del usuario que lo habilitó, o con una cuenta de servicio sobredimensionada. Hereda accesos que ese usuario jamás ejerció en la práctica, y los ejerce todos, a velocidad de máquina.
- Superficie de ataque semántica. La inyección de instrucciones —en un correo, en un documento, en el contenido de una web que el agente lee— convierte a un dato de entrada en una orden. El perímetro deja de ser la red y pasa a ser el texto.
- Cadena de terceros opaca. El agente llama a un modelo, que llama a una API, que llama a otro servicio. La transferencia internacional de datos deja de ser un evento contractual identificable y pasa a ser un comportamiento en tiempo de ejecución.
- Ausencia de registro útil. Muchas plataformas registran que hubo una interacción, no qué datos se leyeron, con qué instrucción, bajo qué versión de modelo y con qué salida. Es un log contable, no un log probatorio.
El problema no es el incidente: es no poder reconstruirlo
Toda la arquitectura regulatoria en materia de protección de datos —de la Ley 25.326 al RGPD, de la Ley 21.719 chilena a la LGPD brasileña— descansa sobre el principio de responsabilidad proactiva. Y la responsabilidad proactiva, despojada de retórica, significa una sola cosa: capacidad de demostrar. No basta con haber hecho las cosas bien; hay que poder probar que se hicieron bien, ante un regulador, ante un juez o ante un titular que ejerce sus derechos.
Ahí es donde el modelo agéntico expone la debilidad más seria. Cuando un proceso automatizado deriva en una filtración, en una decisión errónea o en un uso de datos fuera de finalidad, la primera pregunta del expediente no es técnica ni ética: es probatoria. Quién autorizó, qué instrucción recibió el sistema, a qué información accedió, en qué momento, y si la salida fue producto de una regla, de un modelo o de una manipulación externa. Sin trazabilidad diseñada de antemano, la accountability es una declaración de buenas intenciones que no sobrevive al primer requerimiento formal.
Conviene anotar un dato de mercado que anticipa hacia dónde va esto: los aseguradores ya están ajustando la letra chica. Las coberturas cíber tradicionales fueron redactadas para incidentes con un atacante externo y un vector identificable, no para un sistema propio que actuó autónomamente dentro del perímetro. La discusión sobre exclusiones y sobre qué evidencia se exige para liquidar un siniestro va a llegar a los directorios antes que la mayoría de las normas específicas.
La continuidad lógica del data governance
Frente a este escenario aparece la tentación de tratar la gobernanza de IA como una disciplina nueva, con su propio comité, su propio marco y su propia consultoría. Creemos que es un error de diagnóstico, y en Data Governance Latam lo venimos sosteniendo desde antes de que los agentes fueran el tema de la temporada: gobernar agentes no es empezar de cero, es la continuidad lógica de gobernar datos.
Quien ya construyó un inventario de bases y flujos tiene el esqueleto del inventario de agentes. Quien definió finalidades, bases de licitud y plazos de conservación tiene el criterio para evaluar si un automatismo puede acceder a un dato. Quien tiene un ROPA vivo, un procedimiento de evaluación de impacto y una matriz de roles y accesos ya construyó tres de los cinco controles que un agente necesita. Y quien trabajó la gestión de proveedores sabe que la pregunta relevante nunca fue el logo del proveedor, sino qué hace con los datos y qué evidencia entrega cuando algo sale mal.
La organización que hizo ese trabajo no tiene que reinventarse: tiene que extender su marco a un actor nuevo que no es humano, no es un empleado, no es exactamente un sistema pasivo y sin embargo actúa con efectos jurídicos. La que no lo hizo va a descubrir que el problema nunca fue la IA. Era la gobernanza de datos que se venía postergando, ahora con un multiplicador de velocidad encima.
Cinco preguntas para llevar al directorio
Más allá de los marcos y las certificaciones, hay cinco preguntas que cualquier órgano de administración debería poder responder hoy, sin convocar a un consultor:
- Inventario. ¿Existe un registro único de agentes en producción, con responsable asignado por cada uno?
- Alcance. ¿Sabemos a qué datos accede cada agente y por qué necesita ese acceso y no uno menor?
- Intervención humana. ¿Qué decisiones puede tomar un agente sin validación humana, y quién definió ese umbral?
- Evidencia. Si mañana hay un requerimiento de la autoridad de control, ¿podemos reconstruir qué hizo el agente, con qué datos y bajo qué instrucción?
- Salida. ¿Existe un procedimiento probado para apagar un agente y contener su efecto, o solo sabemos cómo encenderlo?
Ninguna de las cinco es una pregunta de tecnología. Las cinco son de gobierno.
El horizonte normativo
El marco regulatorio se está moviendo, aunque de manera despareja. En Europa, el AI Act ya definió obligaciones escalonadas y la revisión del régimen de responsabilidad por productos alcanza al software. En la región, la Ley 21.719 de Chile instala un estándar de cumplimiento con autoridad de control y régimen sancionatorio propio; Brasil discute su marco de IA sobre una base de protección de datos ya madura; y en Argentina el proyecto de reforma de la ley de datos personales continúa en debate, con una discusión pendiente sobre decisiones automatizadas que no se puede resolver copiando artículos ajenos.
Pero apostar todo a la fecha de entrada en vigencia de una norma es un error de cálculo. La exigencia no va a llegar por vía regulatoria: va a llegar por contrato o mercado. Los cuestionarios de terceros, las cláusulas de auditoría de los clientes grandes, van a pedir evidencia de control sobre agentes bastante antes de que exista un régimen sancionatorio específico. Como siempre, la cadena de suministro regula más rápido que el legislador.
La conclusión es incómoda pero simple: la IA agéntica no crea un problema nuevo de gobernanza de datos. Lo hace visible, lo acelera y lo vuelve imposible de postergar.
En Data Governance Latam sabemos cómo ayudarte. Aguardamos tu contacto en contacto@datagovernancelatam.com
