Semanas después del incidente en OpenAI, Hugging Face sufrió un hackeo que expuso datos de la plataforma. La conclusión de Heidy Khlaaf, investigadora del AI Now Institute, es contundente: ingeniería de seguridad convencional habría sido suficiente para detenerlo. El problema no fue la IA —fue la gestión humana de los controles.
El incidente en Hugging Face volvió a instalar una pregunta incómoda en la industria de la inteligencia artificial: ¿cuánto del riesgo que rodea a los sistemas de IA es realmente un problema de la tecnología, y cuánto es el resultado de prácticas de seguridad deficientes en las organizaciones que los construyen y hospedan? Según Khlaaf, la respuesta inclina la balanza hacia lo segundo. La investigadora del AI Now Institute sostuvo que “ingeniería de seguridad ordinaria habría detenido esto antes de llegar a los datos de Hugging Face”, según se informó desde el instituto.
Qué falló en Hugging Face: controles, no algoritmos
Hugging Face es una de las plataformas centrales del ecosistema de IA abierta: aloja modelos, datasets y aplicaciones que utilizan millones de desarrolladores en todo el mundo, incluyendo equipos de investigación y empresas en América Latina. Un compromiso en ese entorno no solo afecta datos propios de la plataforma —también puede afectar a los usuarios que confían sus modelos y datasets a esa infraestructura. La naturaleza exacta de los datos comprometidos no fue detallada con precisión en la declaración del AI Now Institute, más allá de la referencia general al alcance del acceso no autorizado.
Lo que el caso deja en evidencia, según el análisis de Khlaaf, es que los vectores de ataque que afectaron a Hugging Face no eran exóticos ni requerían explotar vulnerabilidades propias de los modelos de lenguaje o de la infraestructura de IA. Se trató, según se informó, de fallas en controles de seguridad estándar —el tipo de controles que cualquier organización que maneja datos sensibles debería tener implementados independientemente de si trabaja con IA o no. Autenticación, segmentación de accesos, monitoreo de credenciales comprometidas: herramientas de seguridad conocidas y documentadas desde hace años.
El patrón que conecta OpenAI y Hugging Face
El hackeo a Hugging Face ocurrió semanas después de que OpenAI también reportara un incidente de seguridad. Que dos de los actores más visibles del sector de IA enfrenten brechas en un período corto no es una coincidencia operativa —es una señal de que la aceleración del desarrollo de modelos no siempre viene acompañada de una madurez equivalente en las prácticas de protección de la infraestructura. Las organizaciones que mueven velocidad de producto rara vez acompasan esa velocidad con revisiones de superficie de ataque, gestión de identidades o clasificación de activos.
Desde la perspectiva del AI Now Institute, un think tank que viene documentando los riesgos sociales y legales de la IA, la lectura del incidente es en realidad optimista en un sentido técnico: si los controles humanos convencionales son suficientes para prevenir este tipo de brechas, entonces el problema es de governance y priorización, no de una amenaza tecnológicamente irresoluble. Los humanos pueden mantener a la IA bajo control —pero solo si aplican los mecanismos que ya existen.
Cuándo aplica esta lectura / cuándo NO
El argumento de Khlaaf aplica directamente a incidentes donde el vector de ataque pasa por la infraestructura que rodea a los sistemas de IA: APIs expuestas, credenciales filtradas, permisos excesivos, falta de segmentación. No aplica —o aplica con matices importantes— a riesgos emergentes propios de los modelos en sí: ataques de prompt injection, exfiltración de datos de entrenamiento vía inferencia, o manipulación de outputs. Esos requieren controles específicos que la seguridad convencional no cubre por completo. La distinción importa para no simplificar en exceso: decir que “los humanos pueden controlar la IA” con base en este caso no equivale a decir que todos los riesgos de IA son gestionables con herramientas de seguridad del año 2010.
El ángulo regulatorio: qué exigen LGPD, Ley 25.326 y el AI Act ante un hackeo a un proveedor de IA
Para organizaciones latinoamericanas que usan Hugging Face como infraestructura —para alojar modelos propios, procesar datasets que incluyen datos personales, o integrar APIs en productos— un incidente de este tipo activa obligaciones concretas. En Brasil, la Lei Geral de Proteção de Dados (LGPD) exige que el controlador notifique a la Autoridade Nacional de Proteção de Dados (ANPD) y a los titulares afectados ante una brecha que pueda generar riesgos relevantes, en un plazo que la ANPD ha precisado en resoluciones posteriores a la entrada en vigor de la ley. En Argentina, la Ley 25.326 y las disposiciones de la Agencia de Acceso a la Información Pública (AAIP) también contemplan obligaciones de notificación ante incidentes de seguridad que comprometan datos personales tratados por terceros bajo contrato. En México, el INAI tiene competencia para revisar si los encargados del tratamiento —rol que cumpliría Hugging Face para quienes le delegan procesamiento— contaban con medidas de seguridad adecuadas conforme a la LFPDPPP.
El caso también es relevante bajo el AI Act europeo, que clasifica ciertos sistemas de IA como de alto riesgo y exige que los proveedores mantengan controles de seguridad específicos a lo largo del ciclo de vida del sistema. Si Hugging Face es parte de la cadena de suministro de un sistema de IA de alto riesgo desplegado en la Unión Europea, las obligaciones de reporte y remediación se amplían considerablemente.
El caso Hugging Face no prueba que la IA sea segura —prueba que la seguridad de la IA depende de decisiones organizacionales que los equipos técnicos y legales ya tienen capacidad de tomar. La pregunta es si lo priorizan antes del próximo incidente.
