Cuando un empleado de la Agencia de Ciberseguridad e Infraestructura de Estados Unidos (CISA) usó ChatGPT en un contexto no autorizado, el incidente dejó al descubierto algo más profundo que un error individual: la mayoría de las organizaciones gubernamentales y privadas no tienen marcos operativos para gobernar el uso de inteligencia artificial generativa por parte de sus equipos. El problema no es tecnológico. Es de gobernanza.
El caso de CISA, según se informó, involucra el uso de una herramienta de IA generativa fuera de los canales aprobados por la agencia. No se trató de un ataque externo ni de una vulnerabilidad técnica en los modelos: fue un empleado que recurrió a una herramienta de acceso público para realizar tareas laborales. Este patrón tiene nombre en la industria: shadow AI, el equivalente al viejo shadow IT pero con implicancias mucho más complejas cuando los datos involucrados son sensibles o clasificados.
Shadow AI: el riesgo que los marcos de gobernanza todavía no capturan
El concepto de shadow AI describe el uso no autorizado o no gestionado de herramientas de inteligencia artificial dentro de una organización, generalmente por fuera de los controles aprobados por TI, seguridad o el área legal. A diferencia del shadow IT clásico —instalar una app no autorizada, usar Dropbox en lugar del servidor corporativo—, el shadow AI implica que el empleado está potencialmente transfiriendo datos hacia modelos de lenguaje externos cuyo tratamiento de la información no está bajo el control de la organización. En el caso de CISA, que opera en el ecosistema de seguridad nacional estadounidense, las consecuencias potenciales van desde la exposición de información sensible hasta la generación de contenido oficial basado en salidas no verificadas de un modelo.
El problema estructural es que los frameworks de gobernanza de datos vigentes —incluso los más maduros, como el DAMA-DMBOK o el Data Management Capability Assessment Model (DCAM) del EDM Council— no contemplan de manera explícita el ciclo de vida del dato cuando este sale de la organización hacia un modelo de lenguaje de terceros. ¿Qué dato puede ingresarse como prompt? ¿Quién es el data steward responsable de esa decisión? ¿Existe una política de clasificación que defina qué nivel de sensibilidad habilita o prohíbe el uso de IA generativa externa? En la mayoría de las organizaciones, la respuesta a esas tres preguntas es: nadie lo definió.
Clasificación de datos y ownership: los dos controles que fallaron en CISA
Un análisis de gobernanza del incidente apunta a dos fallas concretas. Primero, ausencia de una política de clasificación de datos que establezca explícitamente qué categorías de información no pueden salir del perímetro organizacional bajo ningún formato, incluyendo prompts a modelos externos. Segundo, falta de ownership claro: ningún data steward tenía la responsabilidad asignada de definir las reglas de uso de IA generativa para su dominio de datos. Cuando el ownership no está definido, el empleado toma la decisión por defecto —usar la herramienta que tiene disponible— y la organización absorbe el riesgo sin haberlo evaluado.
El NIST AI Risk Management Framework (AI RMF), publicado en 2023, ofrece un punto de partida para estructurar controles en torno a sistemas de IA, pero su adopción en organismos públicos de América Latina es todavía marginal. El framework distingue entre las funciones Govern, Map, Measure y Manage aplicadas a riesgos de IA —una estructura que puede integrarse con los dominios del DAMA-DMBOK para organizaciones que ya tienen un programa de gobernanza de datos activo.
Cuándo aplica este análisis y cuándo no
Este tipo de riesgo de shadow AI aplica a cualquier organización cuyos empleados tienen acceso a herramientas de IA generativa públicas y trabajan con datos que tienen algún nivel de sensibilidad: información regulada, datos personales bajo LGPD, Ley 25.326 o LFPDPPP, información estratégica, datos de clientes, contratos, o comunicaciones internas. No aplica de la misma manera a organizaciones donde todos los datos son públicos por naturaleza o donde los equipos ya operan exclusivamente dentro de entornos de IA privados y auditados. Para el grueso de las organizaciones de la región —bancos, aseguradoras, organismos públicos, empresas de salud—, el caso CISA es un escenario perfectamente replicable.
En América Latina, el marco regulatorio ya exige controles que el shadow AI vulnera
En Brasil, la Lei Geral de Proteção de Dados (LGPD) impone al controlador la responsabilidad de demostrar que implementó medidas técnicas y organizativas suficientes para proteger los datos personales. Si un empleado ingresa datos personales de clientes en un prompt de ChatGPT sin que la organización haya definido controles para eso, el controlador está potencialmente expuesto ante la Autoridade Nacional de Proteção de Dados (ANPD). En Argentina, la Ley 25.326 y las disposiciones de la Agencia de Acceso a la Información Pública (AAIP) establecen obligaciones análogas de seguridad sobre los datos. En México, la LFPDPPP exige medidas de seguridad administrativas, físicas y técnicas —una transferencia no autorizada de datos personales a un modelo de IA externo puede interpretarse como una vulneración de esa obligación. Ninguna de estas leyes menciona explícitamente la IA generativa, pero los principios de responsabilidad y seguridad que establecen son suficientemente amplios para alcanzar este tipo de uso.
La respuesta operativa para un equipo de gobernanza pasa por tres pasos concretos: (1) revisar la política de clasificación de datos e incorporar una capa explícita de “aptitud para IA externa” —definir qué clases de datos pueden usarse en prompts fuera del perímetro—; (2) asignar formalmente a los data stewards de cada dominio la responsabilidad de aprobar o restringir el uso de herramientas de IA generativa sobre sus datos; y (3) implementar un registro de herramientas de IA en uso, aprobadas y no aprobadas, equivalente al inventario de sistemas que ya exige el DCAM en su capability de Data Asset Inventory.
El incidente de CISA no es una anomalía: es el primer caso documentado de una serie que crecerá mientras las organizaciones sigan tratando la gobernanza de IA como un problema futuro en lugar de un control que debió estar activo hace doce meses.
