Cuando una organización adopta IA y parece operar mejor, más rápido y con mayor precisión, puede estar construyendo una fachada: una apariencia de capacidad que no tiene sustento real en procesos, datos ni conocimiento institucional. MIT Sloan Management Review llama a este fenómeno el “espejismo de capacidades” (capability mirage), y sus implicancias van mucho más allá de la productividad.
El concepto describe una trampa específica: la IA ejecuta tareas que antes requerían competencia humana acumulada, y lo hace con tal fluidez que los líderes —y los propios equipos— asumen que la organización ha mejorado. Pero el conocimiento que antes residía en personas no se ha transferido a la institución: simplemente se ha subcontratado a un sistema cuyo razonamiento interno nadie puede auditar. La organización no aprendió; delegó.
La diferencia entre automatizar una tarea y consolidar una capacidad
Automatizar una tarea y desarrollar una capacidad organizacional son cosas distintas. Una capacidad implica que la organización puede entender lo que hace, explicarlo, replicarlo sin el sistema original y corregirlo cuando falla. Un modelo de lenguaje que redacta contratos, clasifica reclamos o sintetiza jurisprudencia puede hacer todo eso con gran velocidad, pero si el equipo jurídico o de compliance no sabe evaluar el output ni detectar sus límites, la organización opera sobre un andamio sin cimientos. El riesgo no es técnico: es institucional.
El espejismo se vuelve especialmente peligroso cuando la IA se usa para funciones que tienen consecuencias regulatorias directas. En el sector financiero, en el área de cumplimiento normativo, en recursos humanos o en la gestión de datos personales, un error generado por IA que nadie puede detectar porque nadie entiende el proceso subyacente puede derivar en infracciones graves. Y el regulador no acepta como defensa que “lo hizo el algoritmo”.
Responsabilidad legal cuando el sistema falla y nadie sabe por qué
Desde una perspectiva de Legal AI, el espejismo de capacidades plantea un problema de imputabilidad. Si un sistema de IA toma una decisión que afecta a un titular de datos —una denegación de crédito, una clasificación de riesgo, una resolución automatizada de un reclamo— la normativa vigente en múltiples jurisdicciones exige que esa decisión sea explicable y revisable por un humano. El artículo 22 del RGPD europeo, que sirvió de modelo para el artículo 19 de la Ley 25.326 argentina y para disposiciones equivalentes en la Ley General de Protección de Datos de Brasil (LGPD, artículo 20), establece el derecho a no ser objeto de decisiones exclusivamente automatizadas con efectos significativos. Ese derecho presupone que existe un humano capaz de revisar la decisión, no solo un humano que firmó la autorización para que la máquina la tome.
Si el personal que opera el sistema ha perdido la comprensión del proceso —porque la IA lo hizo siempre, porque no hubo transferencia de conocimiento, porque la rotación borró la memoria institucional— la revisión humana se vuelve nominal. Hay una persona que aprueba, pero no hay capacidad real de supervisión. Eso es exactamente el espejismo: apariencia de control sin sustancia.
El AI Act europeo y su impacto en sistemas de alto riesgo desplegados en LATAM
El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act, en vigor desde agosto de 2024) clasifica como de alto riesgo los sistemas de IA usados en selección de personal, calificación crediticia, administración de justicia y servicios esenciales, entre otros. Para esos sistemas, el AI Act exige documentación técnica detallada, supervisión humana efectiva y capacidad de intervención. La palabra clave es “efectiva”: no basta que exista un protocolo de revisión; debe haber competencia humana real para ejercerlo. El espejismo de capacidades viola ese requisito de fondo, aunque cumpla los formales.
Esto importa en América Latina porque varias multinacionales con operaciones en la región están dentro del alcance extraterritorial del AI Act —si sus sistemas afectan a personas en la UE— y porque los marcos regulatorios emergentes en Chile, Colombia, Brasil y México están tomando el AI Act como referencia explícita. La Política Nacional de Inteligencia Artificial de Colombia (CONPES 3975) y el proyecto de ley de IA que avanza en Brasil ya incorporan el concepto de supervisión humana significativa como eje estructural.
Cuándo aplica esta advertencia y cuándo no
El espejismo de capacidades no aplica a todas las implementaciones de IA por igual. Si una organización usa IA para tareas que nunca requirieron capacidad institucional crítica —generación de borradores, resúmenes internos, clasificación preliminar de documentos con revisión posterior—, el riesgo es bajo. El problema aparece cuando la IA reemplaza procesos en los que el criterio humano tenía valor regulatorio, legal o de control de riesgo, y ese criterio no se preserva ni se desarrolla en paralelo. También aplica cuando la dependencia de un único proveedor de IA hace que la organización pierda la capacidad de operar si ese proveedor cambia sus modelos, sus condiciones de uso o su disponibilidad.
Un test simple: si el proveedor de IA retirara su sistema mañana, ¿podría el equipo explicar cómo tomó las decisiones del último año? ¿Podría replicar el proceso con otro sistema o a mano? Si la respuesta es no en áreas reguladas, hay un espejismo activo.
Lo que distingue adopción real de adopción cosmética
Las organizaciones que evitan el espejismo hacen al menos tres cosas distintas a las que caen en él. Primero, documentan el razonamiento esperado del sistema y lo comparan periódicamente con el output real. Segundo, mantienen —o construyen— capacidad humana paralela en las funciones críticas, aunque sea a menor escala. Tercero, tratan la IA como una herramienta de aumento, no de sustitución, en los procesos donde la explicabilidad es un requisito normativo. Esto no es conservadurismo tecnológico: es gestión de riesgo regulatorio.
En la práctica, significa que el área legal, de compliance o de gobernanza de datos debe participar en el diseño de la implementación, no solo en la firma del contrato con el proveedor. El rol del Chief Data Officer o del DPO no termina en la evaluación de impacto inicial; incluye monitorear si la capacidad institucional de supervisión se mantiene a lo largo del tiempo.
Para profundizar en los marcos de supervisión humana de sistemas de IA de alto riesgo, el texto del AI Act europeo está disponible en el Diario Oficial de la UE (Reglamento UE 2024/1689); la Autoridad Nacional de Protección de Datos de Brasil (ANPD) publicó su guía de decisiones automatizadas bajo el artículo 20 de la LGPD en 2023 y es lectura obligada para equipos que operan en la región.
