Las advertencias catastrofistas sobre una inteligencia artificial que amenaza la existencia humana no están respaldadas por evidencia científica, según el AI Now Institute. Peor aún: los llamamientos a regular la IA que provienen de las propias empresas del sector tienen como efecto práctico que esas mismas compañías terminen fijando los estándares que deberían regularlas.
Boyan Milanov, investigador científico senior del AI Now Institute, sostiene que el llamado “AI doomerism” — la narrativa que proyecta escenarios de colapso civilizatorio derivados del desarrollo de inteligencia artificial general — carece de sustento en la literatura científica. No se trata de una posición minoritaria dentro de la comunidad académica: es la ausencia de trabajo empírico lo que define al movimiento. Lo que sí existe es una retórica políticamente eficaz, adoptada con entusiasmo por ejecutivos de las empresas más grandes del sector.
Autorregulación disfrazada de alarma pública
El argumento central de Milanov es estructural: cuando una empresa como OpenAI, Google DeepMind o Anthropic pide regulación urgente frente a riesgos existenciales, el pedido lleva implícita una condición — que los reguladores carezcan del conocimiento técnico para diseñarla sin ayuda de la industria. El resultado previsible es un proceso en el que las mismas compañías que plantean el problema proponen los estándares de solución. En derecho regulatorio ese fenómeno tiene nombre: captura regulatoria. En el ecosistema de IA, opera con una sofisticación adicional: la amenaza que justifica la regulación es tan abstracta y futura que es imposible falsarla.
Esta dinámica no es exclusiva del mercado estadounidense. En la Unión Europea, el proceso de negociación del AI Act entre 2021 y 2024 mostró cómo los grandes laboratorios de IA ejercieron presión intensa para flexibilizar las obligaciones sobre modelos de propósito general (GPAI), con éxito parcial en la redacción final. La preocupación por riesgos “catastróficos” fue invocada por los mismos actores que resistían auditorías independientes y acceso a datos de entrenamiento.
Qué riesgos concretos quedan desplazados mientras se debate el apocalipsis
El problema no es solo que el doomismo sea mala ciencia. Es que su dominancia en el debate público desplaza daños presentes y documentados: discriminación algorítmica en sistemas de selección de empleo, uso de IA en vigilancia masiva, opacidad en decisiones automatizadas que afectan acceso a crédito o beneficios sociales, y condiciones laborales de los trabajadores que etiquetan datos de entrenamiento en el Sur Global. Estos daños no requieren especulación sobre el futuro: ocurren hoy, afectan a personas identificables, y tienen soluciones regulatorias disponibles.
En América Latina, esa brecha entre el debate dominante y los daños reales es especialmente visible. Brasil avanza con su Marco Legal de IA — proyecto de ley aprobado por el Senado en 2024 y en proceso legislativo en la Cámara de Diputados — con un enfoque basado en riesgos y derechos, articulado con la LGPD. México discute su propio marco con menor velocidad institucional, mientras que Argentina aplica criteriosamente la Ley 25.326 a sistemas automatizados pero sin legislación específica sobre IA. En ninguno de esos contextos el “riesgo existencial” es el eje del debate: lo son la transparencia, la no discriminación y la responsabilidad civil por decisiones automatizadas — exactamente los problemas concretos que el doomismo tiende a postergar.
Cuándo el llamado a regular IA es legítimo — y cuándo no
No toda demanda de regulación proveniente de la industria es captura. El criterio útil para distinguirlas es quién pierde si la regulación se implementa de verdad. Cuando una empresa pide regulación que requiere transparencia sobre sus propios modelos, acceso externo a datos de entrenamiento, o auditorías independientes con poder sancionador real, el pedido tiene credibilidad. Cuando pide regulación que crea barreras de entrada para competidores más pequeños, exige licencias que solo las empresas grandes pueden costear, o establece estándares técnicos que ella misma define, el pedido es estrategia comercial.
La distinción importa para los legisladores latinoamericanos que están diseñando marcos normativos ahora. Brasil, Colombia y Chile — los tres países con procesos regulatorios de IA más avanzados de la región — recibirán en los próximos meses insumos técnicos de la industria global. Evaluar esos insumos con el criterio anterior es una tarea que no puede delegarse en quienes los producen.
El sesgo de selección en la ciencia que cita la industria
Milanov señala un punto metodológico que merece atención: el doomismo selecciona literatura especulativa — filosofía de la mente, teoría de juegos aplicada a agentes superinteligentes, escenarios de alineación — y la presenta como si tuviera el mismo peso epistémico que investigación empírica en sistemas de IA existentes. Esta equivalencia falsa tiene consecuencias regulatorias: orienta recursos de supervisión hacia amenazas hipotéticas y aleja la atención de los sistemas desplegados hoy que ya producen decisiones con consecuencias jurídicas.
Para los marcos regulatorios que se están construyendo en la región, la pregunta práctica no es si la IA podría ser peligrosa en 2050, sino quién responde cuando un sistema automatizado niega hoy un crédito, una visa o una prestación de salud — y qué evidencia se necesita para demostrarlo.
