La promesa de que la inteligencia artificial se mejorará a sí misma con mínima supervisión humana —lo que la literatura técnica llama automejora recursiva— enfrenta obstáculos concretos que los pronósticos más optimistas tienden a subestimar. Según un análisis publicado por MIT Technology Review, ese salto explosivo podría no llegar tan pronto como sugieren las proyecciones más difundidas del sector.
La automejora recursiva describe un proceso en el que un sistema de inteligencia artificial es capaz de reescribir su propio código, generar datos sintéticos para su propio entrenamiento y optimizar el hardware sobre el que opera, todo ello sin intervención humana relevante. Los modelos de lenguaje de gran escala (LLMs) ya realizan algunas de estas tareas de forma parcial: escriben código funcional, producen datos sintéticos y participan en la optimización de arquitecturas de chips. El debate no es si estas capacidades existen, sino si pueden encadenarse de forma autónoma y acumulativa hasta producir un ciclo de mejora sostenida.
Qué requiere realmente el ciclo de automejora
Para que la automejora recursiva funcione como la describen sus defensores, no basta con que un modelo genere código: ese código debe mejorar al propio modelo de forma medible, y esa mejora debe poder retroalimentarse en ciclos sucesivos sin degradación ni pérdida de alineación. Cada uno de esos pasos introduce fricciones que los benchmarks actuales no logran capturar con precisión. Los sistemas de evaluación que los modelos usan para medir su propio progreso son, en muchos casos, construidos por los mismos modelos, lo que introduce sesgos de autovalidación difíciles de detectar desde afuera.
A esto se suma el problema del compute: cada iteración de mejora exige más capacidad de cómputo, más datos de calidad y más tiempo de ingeniería humana para verificar que el resultado es efectivamente mejor y no solo diferente. La curva de rendimientos puede volverse decreciente mucho antes del punto de inflexión que los optimistas anticipan.
Cuándo aplica el concepto y cuándo no
La automejora recursiva aplica, en sentido estricto, cuando un sistema modifica sus propios parámetros o arquitectura de forma autónoma y verifica que el cambio produce ganancias reales en tareas relevantes. No aplica cuando un modelo simplemente genera código que un ingeniero luego revisa, integra y evalúa: ese proceso sigue siendo asistido por humanos, no autónomo. Tampoco aplica cuando los “avances” son mejoras en benchmarks diseñados por el mismo equipo que entrena el modelo, sin validación independiente. La distinción importa porque buena parte de las afirmaciones actuales del sector cae en esta segunda categoría.
El marco regulatorio de la UE ya anticipa este escenario
El AI Act de la Unión Europea, vigente desde agosto de 2024 en sus disposiciones generales, contempla explícitamente los sistemas de IA con capacidad de auto-modificación como una categoría que requiere evaluaciones de conformidad reforzadas. El artículo 9 del AI Act exige que los sistemas de alto riesgo cuenten con sistemas de gestión de riesgos capaces de actualizarse ante comportamientos nuevos o no anticipados. Si un modelo puede reescribirse a sí mismo, ese requisito se vuelve técnicamente complejo de cumplir: ¿quién certifica la versión modificada?
En América Latina, ningún marco regulatorio vigente aborda todavía la automejora recursiva de forma explícita. El proyecto de ley de inteligencia artificial en Brasil, en discusión en el Congreso durante 2025 y 2026, establece obligaciones de transparencia y evaluación de impacto para sistemas de IA de alto riesgo, pero no define umbrales técnicos específicos para sistemas auto-modificables. En Argentina, la Secretaría de Innovación Pública publicó lineamientos de IA en 2023 que priorizan el uso responsable, sin cubrir escenarios de autonomía avanzada. La brecha regulatoria es real y creciente.
Qué implica esto para quienes toman decisiones sobre adopción de IA
La narrativa del “despegue inminente” tiene consecuencias prácticas: organizaciones que planifican estrategias de IA asumiendo que los modelos serán radicalmente más capaces en 12 o 18 meses pueden sobredimensionar inversiones o posponer decisiones de governance bajo la premisa de que “todo cambiará pronto”. El análisis de MIT Technology Review sugiere que ese horizonte es más incierto de lo que los titulares indican. Para los equipos de gobierno de datos y las áreas legales que evalúan contratos con proveedores de IA, esto tiene una consecuencia directa: las cláusulas de actualización automática de modelos y las garantías de comportamiento estable cobran mayor relevancia cuando no se puede predecir con certeza cuándo ni cómo un modelo evolucionará.
El debate sobre automejora recursiva no es solo técnico: es un debate sobre cuánto riesgo se externaliza hacia sistemas que nadie puede auditar completamente. En ese contexto, la supervisión humana no es un obstáculo a superar; es, por ahora, el único mecanismo de verificación disponible.
El análisis completo de MIT Technology Review está disponible en technologyreview.com; para el marco normativo aplicable en la UE, el texto del AI Act puede consultarse en el Diario Oficial de la Unión Europea (Reglamento 2024/1689).
