Anthropic y OpenAI publican reportes periódicos sobre cómo sus usuarios utilizan Claude y ChatGPT, pero investigadores en inteligencia artificial advierten que esos datos son curados por las propias empresas: no existe fuente independiente que los corrobore. La opacidad sobre los patrones reales de uso tiene implicancias directas para cualquier intento de regular estos sistemas.
Cada vez que una compañía de IA publica estadísticas de uso, el mensaje implícito es tranquilizador: los usuarios adoptan la tecnología para tareas productivas, creativas o educativas. Pero ese relato lo construyen las mismas empresas con los datos que deciden divulgar. Anka Reuel, candidata doctoral en el Stanford Trustworthy AI Research, lo sintetiza con precisión: “No existe una fuente independiente para corroborarlo”. Ese vacío no es un detalle metodológico menor — es una falla estructural en la gobernanza de los sistemas de inteligencia artificial más usados del mundo.
Autorregulación sin auditoría: el modelo actual de divulgación
El mecanismo de divulgación vigente en la industria funciona de manera simple: las empresas recopilan datos masivos sobre interacciones de sus plataformas, seleccionan los hallazgos que consideran relevantes o favorables, y los publican bajo la forma de reportes de transparencia o estudios de uso. No hay un tercero que acceda a los datos brutos, no hay protocolo estandarizado de reporte, y no hay obligación legal — en la mayoría de las jurisdicciones — de revelar métricas específicas sobre comportamiento de usuarios. El resultado es que el campo de estudio sobre el impacto real de la IA en la sociedad depende, paradójicamente, de la buena voluntad de los actores más interesados en que esa narrativa sea positiva.
El problema se profundiza porque los usos que no se reportan pueden ser los más relevantes desde el punto de vista de riesgo: generación de desinformación, asistencia en tareas con consecuencias legales o médicas sin supervisión profesional, o patrones de dependencia cognitiva. Sin acceso a datos desagregados y auditados, los investigadores deben construir sus propios estudios con muestras pequeñas, encuestas autoreportadas o experimentos de laboratorio que difícilmente capturan el comportamiento real a escala.
Cuándo esta opacidad viola un marco normativo — y cuándo no
La ausencia de datos verificables sobre uso de IA no es ilegal en la mayoría de los países, pero entra en tensión creciente con marcos regulatorios que exigen transparencia. El AI Act de la Unión Europea, vigente desde agosto de 2024, impone obligaciones de documentación técnica y registros de sistemas de IA de alto riesgo, y establece que los modelos de propósito general con impacto sistémico deben someterse a evaluaciones independientes. Sin embargo, la definición de qué datos de uso deben compartirse con reguladores — y en qué formato — sigue siendo objeto de negociación técnica en los actos delegados que la Comisión Europea todavía está terminando de redactar.
El AI Act no aplica directamente en América Latina, pero fija el estándar de referencia al que varios países de la región miran para construir sus propios marcos. En Brasil, el Proyecto de Ley 2.338/2023 — conocido como el PL de IA — incluye disposiciones sobre transparencia y auditoría de sistemas automatizados de alto impacto, aunque en sus versiones más recientes el alcance de las obligaciones de divulgación de datos de uso quedó acotado frente al texto original. En Argentina, la Estrategia Nacional de Inteligencia Artificial no establece obligaciones de reporte para proveedores de modelos fundacionales. Chile y Colombia avanzan con marcos voluntarios que, por definición, reproducen el mismo problema: las empresas reportan lo que quieren.
Por qué los datos de uso son centrales para la regulación efectiva
El debate sobre qué regular en IA depende, en gran medida, de entender qué hacen realmente los usuarios con estos sistemas. Si la mayoría de las interacciones de alto riesgo ocurren en dominios que las empresas no reportan — salud, asesoramiento legal informal, contenido generado para influir en decisiones electorales — entonces los marcos regulatorios que se construyan sin ese conocimiento serán, en el mejor caso, incompletos. Los reguladores latinoamericanos que hoy diseñan normativas sobre IA están trabajando con una información base que proviene casi exclusivamente de las empresas que buscan operar en sus mercados.
La situación tiene un paralelo con los primeros años de las redes sociales, cuando Facebook y Twitter controlaban los datos sobre propagación de contenido hasta que escándalos como Cambridge Analytica forzaron una apertura parcial y reluctante. La diferencia es que los modelos de lenguaje generan interacciones más íntimas, más difíciles de categorizar, y con consecuencias potencialmente más directas sobre decisiones individuales. Esperar un escándalo equivalente para obtener acceso a datos independientes sería una estrategia regulatoria costosa.
Alternativas que los reguladores pueden exigir ahora
La investigación independiente sobre uso de IA no requiere necesariamente acceso a datos en bruto con información personal de los usuarios — lo que crearía tensiones legítimas con marcos de protección de datos como la LGPD brasileña o la Ley 25.326 argentina. Existen mecanismos intermedios que algunos reguladores ya contemplan:
- Auditorías de terceros con acceso a datos anonimizados y agregados, bajo acuerdos de confidencialidad con supervisión regulatoria.
- Obligación de reportar categorías de uso definidas por la autoridad competente, no por la empresa.
- Registros de incidentes con impacto en usuarios que las plataformas deben notificar a organismos como el MCTIC en Brasil o la AAIP en Argentina.
- Habilitación de investigadores académicos acreditados para acceder a datos bajo entornos de análisis seguros, siguiendo el modelo del Digital Services Act europeo para plataformas muy grandes.
Ninguno de estos mecanismos está completamente operativo en América Latina para sistemas de IA generativa. El PL 2.338/2023 de Brasil es el instrumento más avanzado en la región, pero su aprobación final y reglamentación todavía están pendientes al momento de esta publicación.
Mientras los reportes de uso los sigan escribiendo solo quienes tienen interés en el resultado, cualquier política de IA que se base en ellos estará regulando el relato, no la tecnología.
