Las advertencias apocalípticas sobre inteligencia artificial —que los sistemas de IA podrían exterminar a la humanidad— carecen de un elemento científico básico: la posibilidad de ser refutadas. Esa es la crítica central que articula Heidy Khlaaf, científica jefa de IA en el AI Now Institute y ex ingeniera de seguridad de OpenAI, en un debate que tiene consecuencias directas sobre cómo se diseñan las regulaciones de IA en todo el mundo, incluyendo América Latina.
El núcleo del argumento es metodológico. Las afirmaciones científicas válidas deben poder ser falsadas: si no existe ningún experimento, dato o escenario que permita demostrar que una hipótesis es incorrecta, entonces esa hipótesis opera más como artículo de fe que como ciencia. Según Khlaaf, muchas de las narrativas dominantes sobre riesgo existencial de la IA —popularizadas por figuras del movimiento de seguridad de IA conocido como “AI safety”— no superan ese umbral mínimo. “Las afirmaciones científicas requieren falsabilidad precisamente para evitar la naturaleza de los argumentos religiosos”, señaló. “Necesitás poder probarlas o refutarlas.”
Qué es la falsabilidad y por qué importa en el debate de IA
El principio de falsabilidad fue formulado por el filósofo Karl Popper como criterio de demarcación entre ciencia y pseudociencia. Una teoría es científica si, en principio, puede ser contradicha por evidencia empírica. Aplicado al campo de la IA, el problema es concreto: afirmaciones como “un sistema de IA superinteligente podría decidir eliminar a los humanos para cumplir sus objetivos” no describen un mecanismo verificable ni un umbral medible. No tienen fecha, no tienen condición de activación, no tienen indicadores que permitan decir “si esto no ocurre en X circunstancia, la hipótesis queda descartada”. Eso las convierte, desde una perspectiva epistemológica, en argumentos irrefutables —y por eso mismo, no científicos.
La distinción no es trivial. El tipo de riesgo que se prioriza en el debate público moldea directamente la agenda regulatoria. Si los legisladores y autoridades concentran su atención en escenarios hipotéticos de extinción, pueden desviar recursos y normas de los daños actuales y documentados que los sistemas de IA ya producen: discriminación algorítmica, vigilancia masiva, erosión de derechos laborales, opacidad en decisiones que afectan a personas reales.
Dos tradiciones de riesgo que compiten por la agenda regulatoria global
En el campo de la seguridad de IA conviven dos corrientes que tienen poco en común salvo el nombre. La primera, asociada a organizaciones como el AI Now Institute, el Algorithmic Justice League o la AI Policy Foundation, se enfoca en daños concretos, verificables y presentes: sesgos en modelos de reconocimiento facial, fallos en sistemas de toma de decisiones judiciales, impacto en trabajadores de plataformas. La segunda —representada por figuras como Eliezer Yudkowsky o centros como el Machine Intelligence Research Institute— proyecta el riesgo hacia sistemas hipotéticos de inteligencia artificial general (AGI) con capacidad de agencia autónoma y objetivos potencialmente hostiles a la humanidad. Esta segunda corriente es la que Khlaaf interpela con el argumento de la falsabilidad.
La tensión no es meramente académica. En la negociación del AI Act de la Unión Europea, uno de los debates más ásperos giró precisamente en torno a si los modelos de propósito general (GPAI) con capacidades “sistémicas” debían regularse por sus riesgos actuales o por proyecciones de riesgo futuro. El texto final incorporó ambas lógicas, pero con pesos y procedimientos distintos, lo que refleja cuánto incide esta disputa epistemológica en el derecho duro.
Cuándo el argumento apocalíptico aplica y cuándo no —para el análisis regulatorio
La crítica de Khlaaf no descarta que los sistemas de IA puedan causar daños graves o incluso catastróficos en contextos específicos: infraestructura crítica, armas autónomas, toma de decisiones médicas sin supervisión. Lo que impugna es el salto argumental que va de “puede causar daño grave en contexto X” a “podría exterminar a la humanidad sin condición falsable”. El primer tipo de afirmación es científicamente tratable: tiene mecanismos identificables, umbrales medibles y puede ser objeto de regulación técnicamente fundada. El segundo no. Para los equipos jurídicos y de política pública que trabajan en marcos regulatorios de IA, esa distinción define qué argumentos son admisibles como base para normas de obligado cumplimiento.
América Latina, entre el AI Act y sus propios marcos incipientes
El debate tiene implicancias directas para la región. Brasil avanza en la tramitación de su Proyecto de Ley 2.338/2023, conocido como el “AI Act brasileño”, que toma como referencia explícita el modelo europeo. En Argentina, la Secretaría de Innovación Pública publicó en 2024 lineamientos de uso responsable de IA para el sector público, sin fuerza normativa vinculante aún. En ambos casos, los equipos técnicos que alimentan esas iniciativas deben resolver la misma pregunta que plantea Khlaaf: ¿qué tipo de evidencia de riesgo es suficiente para justificar una restricción legal? Si la respuesta es “proyecciones no falsables”, el riesgo es que se sobrerregulen capacidades inexistentes mientras se subrregulan daños ya documentados. Si la respuesta es “solo daños probados”, el riesgo es llegar tarde a tecnologías que evolucionan más rápido que los ciclos legislativos.
México, a través del INAI y en el marco de las discusiones sobre actualización de la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP), también enfrenta la presión de incorporar disposiciones sobre sistemas automatizados de decisión. El criterio de falsabilidad que plantea el AI Now Institute ofrece una herramienta metodológica útil para ese proceso: antes de legislar sobre un riesgo de IA, preguntarse si ese riesgo puede ser operacionalizado en indicadores medibles y condiciones de verificación.
Las regulaciones de IA que se están construyendo hoy en América Latina dependerán, en parte, de qué argumentos sobre riesgo consideran legítimos sus autores. El criterio de falsabilidad no resuelve esa disputa, pero al menos la coloca en un terreno donde puede discutirse con evidencia. Para profundizar en el debate sobre los marcos de evaluación de riesgo en IA, el AI Now Institute publica sus análisis en ainowinstitute.org.
