En un evento reciente organizado por Ataccama con líderes senior de datos de grandes empresas, ninguno de los participantes se mostró dispuesto a permitir que los agentes de inteligencia artificial operen con autonomía plena. La presión para escalar IA a velocidad de máquina existe, pero el freno está puesto deliberadamente —y los motivos son de gobernanza, no de tecnología.
La distinción importa. Cuando los responsables de datos frenan la autonomía de los agentes de IA, no es porque los sistemas no funcionen: es porque las estructuras de ownership, trazabilidad y control de calidad del dato no están lo suficientemente maduras como para delegar decisiones consecuentes a un sistema automatizado. Dicho de otro modo, el problema no está en el modelo; está en los cimientos de datos sobre los que ese modelo opera.
Autonomía de agentes de IA: qué implica ejecutar “a velocidad de máquina”
Un agente de IA autónomo no solo recomienda una acción: la ejecuta. Puede modificar registros, desencadenar flujos de trabajo, interactuar con sistemas externos o tomar decisiones de negocio sin intervención humana en cada paso. En entornos donde el dato es insumo crítico —bancos, aseguradoras, sistemas de salud, retailers con operaciones de cadena de suministro complejas— esa capacidad de actuación sin supervisión directa representa un riesgo operativo que los líderes de datos evalúan con extrema cautela, según se desprende del encuentro organizado por Ataccama. El marco DAMA-DMBOK ubica esta tensión exactamente en la intersección entre Data Quality Management y Data Architecture: si el dato de entrada no tiene calidad certificada y ownership claro, ningún nivel de sofisticación del modelo mitiga el riesgo de decisión errada.
Cinco señales de alerta que frenan la ejecución autónoma
Del evento participado por líderes senior de datos se pueden extraer, según se informó, al menos cinco vectores de preocupación que explican la resistencia a la autonomía total de los agentes:
- Ausencia de data lineage confiable: si no es posible trazar con certeza el origen y las transformaciones de un dato, no es posible auditar la decisión del agente que lo consumió.
- Ownership difuso: sin un data steward claramente asignado a cada dominio de dato, no hay un humano responsable de validar que el input del agente es correcto antes de la ejecución.
- Catálogos de datos incompletos: los agentes necesitan contexto semántico del dato para operar bien; un catálogo desactualizado es un vector de error silencioso.
- Falta de métricas de calidad en tiempo real: la autonomía requiere que el agente sepa, en el momento de actuar, si el dato que consume cumple los umbrales de calidad definidos.
- Ausencia de circuit breakers de gobernanza: no existe aún, en la mayoría de las organizaciones, un mecanismo formal que interrumpa la ejecución del agente cuando detecta anomalías en el dato de entrada.
Cuándo aplica la supervisión humana y cuándo no es suficiente con políticas
La supervisión humana en el loop de un agente de IA no es lo mismo que tener una política que diga “los humanos aprueban las decisiones”. Aplicar supervisión real implica que el agente genera una recomendación, expone su razonamiento y el data steward o el responsable de dominio puede rechazarla con evidencia antes de que se ejecute. Este modelo —conocido como human-in-the-loop (HITL)— es el que los líderes consultados por Ataccama prefieren para los casos de uso de alto impacto. El modelo human-on-the-loop (HOTL), donde el agente actúa y el humano puede intervenir a posteriori, es aceptable solo cuando el costo de reversión es bajo y el dato de entrada tiene calidad certificada. La autonomía total —sin supervisión activa— no encontró defensores en el evento.
El contexto regulatorio en América Latina presiona en la misma dirección
La cautela de los líderes de datos coincide con el marco regulatorio que se está consolidando en la región. En Brasil, la Lei Geral de Proteção de Dados (LGPD) establece el derecho a revisión humana de decisiones automatizadas con efectos significativos sobre personas (artículo 20), lo que obliga a las empresas a mantener capacidad de supervisión activa sobre cualquier agente que opere con datos personales. En Argentina, la Agencia de Acceso a la Información Pública (AAIP) viene avanzando en lineamientos sobre IA responsable que apuntan en la misma dirección. En México, el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) ha señalado la necesidad de explicabilidad en decisiones automatizadas. Ninguno de estos marcos permite, en la práctica, que un agente de IA tome decisiones sobre datos personales sin trazabilidad auditada y posibilidad de revisión: exactamente lo que los líderes de datos identifican como condición faltante en sus organizaciones.
Qué necesita estar resuelto antes de escalar agentes autónomos
Para un Chief Data Officer que evalúa cuándo y cómo escalar agentes de IA con mayor autonomía, el camino crítico pasa por tres decisiones de gobernanza que deben estar tomadas antes de mover el dial hacia la autonomía. Primero, certificar la calidad del dato de entrada para cada dominio donde el agente va a operar —no de forma general, sino dominio por dominio, con umbrales definidos y monitoreados en tiempo real. Segundo, asignar formalmente un data steward con ownership sobre los datos que consume el agente, con capacidad efectiva de vetar una ejecución. Tercero, construir data lineage auditado end-to-end para los flujos que alimentan al agente, de modo que cualquier decisión sea reconstruible y explicable ante una auditoría interna o regulatoria. El EDM Council, a través del marco CDMC (Cloud Data Management Capabilities), ubica estas tres capacidades en los niveles 6, 7 y 8 del modelo de madurez —niveles que la mayoría de las organizaciones latinoamericanas aún no ha certificado formalmente, aunque muchas operen con prácticas equivalentes en sectores regulados como banca y seguros.
La autonomía de los agentes de IA no es una decisión de arquitectura tecnológica: es una declaración sobre el nivel de madurez del gobierno de datos de una organización. Los líderes que hoy frenan la autonomía total no están siendo conservadores —están siendo precisos.
