El aprendizaje federado —técnica que entrena modelos de inteligencia artificial sin centralizar datos clínicos— no es suficiente para garantizar la privacidad de los pacientes, según un análisis publicado por organismos vinculados a la Unión Europea. La advertencia llega en un momento en que hospitales, aseguradoras y startups de salud digital en América Latina adoptan esta arquitectura como argumento de cumplimiento ante reguladores.
El aprendizaje federado (federated learning) funciona distribuyendo el entrenamiento de un modelo entre múltiples nodos —hospitales, clínicas, dispositivos— sin que los datos crudos salgan de cada institución. Solo se comparten actualizaciones del modelo, no los registros individuales. Durante años, esta propiedad fue presentada como una solución casi completa al problema de privacidad en salud digital. El análisis europeo cuestiona esa narrativa de raíz.
Qué falla en el aprendizaje federado cuando los datos son clínicos
El problema central identificado en el análisis es que las actualizaciones de gradientes —los paquetes matemáticos que cada nodo envía al modelo central— pueden ser objeto de ataques de inferencia e inversión. Investigaciones previas han demostrado que, bajo ciertas condiciones, es posible reconstruir datos de entrenamiento a partir de esos gradientes, incluyendo información sensible como diagnósticos o imágenes médicas. En un entorno hospitalario, eso equivale a reconstruir el historial de un paciente identificable sin acceder directamente a ninguna base de datos clínica.
Además, el análisis europeo señala que el aprendizaje federado no resuelve por sí solo problemas de membership inference —la capacidad de determinar si un individuo específico formó parte del conjunto de entrenamiento—, ni protege contra actores maliciosos que controlen uno o más nodos de la federación. La privacidad diferencial y otras capas de protección complementarias son necesarias, pero no siempre se implementan junto con la arquitectura federada.
Cuándo aplica y cuándo NO como argumento de cumplimiento normativo
El aprendizaje federado reduce significativamente la superficie de exposición de datos en tránsito y centralización innecesaria: en ese sentido, es una medida técnica válida y recomendable dentro de una estrategia de privacidad por diseño. Pero no aplica como sustituto de un análisis de impacto en protección de datos (AIPD/DPIA) ni como prueba autosuficiente de conformidad ante una autoridad de control. Un sistema que usa aprendizaje federado pero carece de políticas de retención, acuerdos de tratamiento entre instituciones o mecanismos de ejercicio de derechos del titular sigue siendo no conforme bajo marcos como el RGPD europeo, la Ley General de Protección de Datos de Brasil (LGPD) o la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP) de México.
El escenario donde el aprendizaje federado sí aporta valor regulatorio concreto es cuando se combina con privacidad diferencial calibrada, auditoría de nodos participantes, acuerdos contractuales entre los titulares del tratamiento y un régimen de gobierno del modelo que incluya versionado, linaje de datos y mecanismos de olvido o exclusión de contribuciones individuales. Sin esa capa de gobernanza, la arquitectura técnica es necesaria pero insuficiente.
El escenario en LATAM: salud digital avanza más rápido que los marcos de cumplimiento
En Brasil, la LGPD clasifica los datos de salud como datos sensibles (artículo 11) y exige base legal específica para su tratamiento, además de medidas de seguridad “aptas” para protegerlos. La Autoridade Nacional de Proteção de Dados (ANPD) aún no ha emitido una guía técnica específica para modelos de IA en salud, lo que deja un vacío interpretativo que muchas organizaciones llenan argumentando que el aprendizaje federado es suficiente. En Argentina, la Agencia de Acceso a la Información Pública (AAIP) tampoco cuenta con lineamientos técnicos para IA clínica bajo la Ley 25.326. En México, el INAI ha avanzado más en recomendaciones sobre tratamiento de datos sensibles, pero sin alcanzar el nivel de especificidad técnica que requiere el despliegue de modelos federados en hospitales.
El resultado práctico es que varios proyectos de IA en salud en la región invocan el aprendizaje federado como escudo regulatorio ante preguntas de auditores internos o equipos legales, sin que exista una evaluación formal de los vectores de ataque que el análisis europeo documenta. Esa brecha entre capacidad técnica y madurez de gobernanza es el riesgo real.
Privacidad diferencial y gobernanza del modelo: las capas que no pueden faltar
Para que un sistema de aprendizaje federado en salud sea defendible ante un regulador o ante un titular que ejerza sus derechos, la arquitectura técnica debe complementarse con al menos tres capas adicionales: privacidad diferencial con presupuesto de privacidad (epsilon) documentado y justificado; gobernanza del modelo que incluya linaje de datos, control de versiones y trazabilidad de las contribuciones por nodo; y un régimen contractual entre instituciones participantes que defina roles de responsable y encargado del tratamiento de forma explícita. El marco DAMA-DMBOK v2 y el AI Risk Management Framework del NIST ofrecen estructuras aplicables para documentar estos controles de forma auditable.
Para los equipos legales y de datos que asesoran proyectos de salud digital en la región, la pregunta correcta no es “¿usamos aprendizaje federado?” sino “¿qué garantías adicionales documentamos cuando el regulador pregunte por los gradientes?”
