Los firewalls de LLM protegen la capa conversacional de un agente de inteligencia artificial, pero el vector de ataque más peligroso no pasa por el chat: está en los datos que el agente consulta, transforma y devuelve antes de que cualquier guardrail tenga oportunidad de intervenir. Entender esa brecha es hoy una prioridad técnica y legal para cualquier organización que opere agentes de IA en producción.
Un firewall de LLM cumple una función acotada: se interpone entre el usuario y el modelo, analiza cada mensaje entrante y cada respuesta saliente, y bloquea contenido que parezca un ataque de prompt injection, una credencial filtrada o un tema fuera de política. Es una capa de control legítima y necesaria. El problema es que los agentes de IA modernos no son solo interfaces de chat: son sistemas que se conectan a bases de datos, APIs externas, almacenes de documentos y pipelines de datos en tiempo real. Todo ese tráfico ocurre detrás del firewall, en capas que el modelo de inspección conversacional nunca ve.
El riesgo que viaja en el dato, no en el prompt
Cuando un agente de IA recupera un documento de un data warehouse, consulta una API de CRM o ejecuta una query sobre una base de datos de clientes, el firewall de LLM no tiene visibilidad sobre ese intercambio. Si el dato recuperado contiene información sensible mal clasificada, si el pipeline que lo alimenta tiene un problema de calidad o si el contexto del documento ha cambiado desde la última vez que fue indexado, el agente puede producir una respuesta incorrecta, sesgada o que expose información que no debería. Nada de eso activa una alerta en la capa conversacional, porque el problema no está en el mensaje: está en el dato aguas arriba.
Este patrón se conoce en la industria como riesgo en la capa de datos del agente, y es estructuralmente distinto al riesgo de jailbreak o prompt injection que los firewalls de LLM están diseñados para mitigar. Un atacante sofisticado no necesita manipular el chat si puede envenenar el índice vectorial que el agente usa como contexto, insertar contenido malicioso en un documento que el agente recuperará más tarde, o aprovechar un problema de data freshness para que el modelo responda con información desactualizada como si fuera vigente.
Cuándo aplica este riesgo y cuándo NO
Este vector de riesgo aplica a cualquier arquitectura de agente que use recuperación aumentada de información (RAG, Retrieval-Augmented Generation), herramientas externas (tool use o function calling) o acceso directo a sistemas de datos como bases de datos relacionales, data lakes o APIs de terceros. No aplica, o aplica de forma marginal, a casos de uso donde el LLM opera exclusivamente con el contenido del prompt sin acceso a fuentes externas, como un asistente de redacción sin conexión a sistemas internos. En la práctica, la mayoría de los despliegues empresariales en producción caen en la primera categoría.
Tampoco es un problema exclusivo de los modelos más potentes. Un agente basado en un modelo mediano con acceso a datos bien gobernados es significativamente más confiable que uno basado en un modelo de frontera con datos mal clasificados, sin linaje documentado y sin controles de calidad automatizados. La variable determinante no es la capacidad del modelo: es la calidad del dato que lo alimenta.
Gobernanza de datos como control de primer orden en arquitecturas de agentes
El marco DAMA-DMBOK identifica la calidad del dato y la gestión del ciclo de vida como capacidades centrales de gobernanza. En el contexto de agentes de IA, esas capacidades se vuelven controles de seguridad: un dato sin owner definido (data steward) puede ser modificado sin auditoría; un activo sin clasificación puede ser accedido por un agente sin verificar si contiene información personal o confidencial; un pipeline sin monitoreo de calidad puede alimentar al agente con registros corruptos o duplicados sin que nadie lo detecte. El EDM Council, a través de su marco CDMC (Cloud Data Management Capabilities), ya incluye explícitamente el gobierno de datos en contextos de IA como una capability diferenciada que las organizaciones deben certificar.
En América Latina, esta brecha tiene consecuencias regulatorias concretas. La Lei Geral de Proteção de Dados (LGPD) de Brasil exige que los responsables del tratamiento garanticen la exactitud y actualización de los datos personales utilizados en procesos automatizados (Art. 16 y Art. 20). En Argentina, la Ley 25.326 y las disposiciones complementarias de la AAIP establecen obligaciones similares sobre calidad del dato. Si un agente de IA produce una decisión automatizada basada en datos personales desactualizados o incorrectamente clasificados, la organización no solo enfrenta un riesgo operativo: enfrenta un potencial incumplimiento normativo que el firewall de LLM no tiene capacidad de prevenir ni documentar.
Tres controles que sí operan en la capa correcta
Mitigar este riesgo requiere intervenir en la capa de datos, no solo en la capa conversacional. Los controles más efectivos incluyen:
- Monitoreo de calidad de datos en tiempo real sobre los pipelines que alimentan al agente, con alertas ante cambios de schema, valores nulos inesperados o drift estadístico en distribuciones clave.
- Clasificación y etiquetado de activos de datos antes de que sean indexados o accesibles para el agente, con políticas de acceso basadas en esa clasificación.
- Data lineage documentado (linaje de datos) que permita rastrear el origen de cada pieza de contexto que el agente utilizó para generar una respuesta, habilitando auditorías post-incidente y cumplimiento de obligaciones de explicabilidad bajo marcos como el AI Act de la Unión Europea o las guías de IA responsable de organismos como la CAF para la región.
Estas capacidades no reemplazan al firewall de LLM: lo complementan cubriendo el flanco que ese control no puede ver. Una arquitectura de agentes madura necesita ambas capas operando en paralelo, con ownership claro sobre cada una.
Las organizaciones que despliegan agentes de IA en producción sin gobernanza de datos en la capa de recuperación no tienen un problema de seguridad de modelos: tienen un problema de gobernanza que ningún proveedor de guardrails puede resolver por ellas. Para profundizar en los estándares aplicables, el marco CDMC del EDM Council y el capítulo de calidad del DAMA-DMBOK son los puntos de partida más sólidos disponibles hoy.





