Los modelos de lenguaje de gran escala no razonan: procesan patrones estadísticos con una sofisticación que imita el razonamiento, pero sin comprensión real. Esa distinción —técnica en apariencia— tiene consecuencias jurídicas y regulatorias concretas para América Latina, donde varios países están construyendo marcos de IA sin haber resuelto esta pregunta de base.
Cuando un modelo como GPT-4 o Gemini responde una pregunta legal, diagnóstica un síntoma o explica una decisión de crédito, no está siguiendo una cadena lógica de causas y efectos. Está prediciendo qué token viene a continuación en función de patrones aprendidos sobre miles de millones de documentos. La diferencia importa: un sistema que razona puede, en principio, justificar sus conclusiones paso a paso. Un sistema que predice, no. Lo que se parece a una justificación es, en muchos casos, otra predicción estadística.
Por qué el “razonamiento” de los LLMs es una ilusión funcional
Los modelos de lenguaje aprenden a asociar estructuras lingüísticas con resultados esperados. Cuando se les pide que “muestren su razonamiento”, generan texto que se parece a un razonamiento —porque ese tipo de texto aparece frecuentemente en los datos de entrenamiento— sin que exista un proceso inferencial subyacente verificable. Esto no los hace inútiles: son herramientas extraordinariamente potentes para síntesis, redacción y recuperación de información. Pero sí los hace inadecuados, sin salvaguardas adicionales, para cualquier función que requiera explicabilidad genuina o responsabilidad sobre una decisión.
El problema se agrava cuando se encadenan varios LLMs en flujos de trabajo agénticos —los llamados “agentes de IA”— donde la salida de uno alimenta la entrada del siguiente. Cada eslabón de esa cadena hereda la incertidumbre del anterior, sin que ninguno pueda “darse cuenta” de que está propagando un error. En esos sistemas, la trazabilidad de una decisión incorrecta es casi imposible sin instrumentación explícita de cada paso.
Cuándo aplica esta distinción y cuándo no cambia nada práctico
Para tareas de bajo riesgo —redactar un borrador, resumir un documento, generar código de prueba— la distinción entre predicción y razonamiento es, en la práctica, irrelevante. El usuario puede revisar el output y corregir errores sin consecuencias graves. El problema aparece en contextos de alto impacto: decisiones sobre crédito, libertad condicional, diagnóstico médico, selección de personal o interpretación jurídica automatizada. Allí, la incapacidad del modelo de razonar genuinamente colisiona con los requisitos de explicabilidad que ya exigen varias normas vigentes.
En la Unión Europea, el AI Act clasifica estos usos como sistemas de IA de alto riesgo (Anexo III) y exige documentación técnica, supervisión humana y explicaciones comprensibles de las decisiones automatizadas. En América Latina, el cuadro regulatorio es más fragmentado pero avanza: Brasil incorporó en su Estrategia Nacional de Inteligencia Artificial (EBIA) lineamientos sobre explicabilidad y trazabilidad; Colombia emitió en 2023 el CONPES 3975 y una guía de ética de IA que menciona explícitamente la obligación de poder explicar decisiones automatizadas; y Chile avanza en su proyecto de ley de IA, que retoma la lógica del AI Act europeo en materia de sistemas de alto riesgo.
El nudo jurídico: explicabilidad sin razonamiento real
Si un LLM no razona, no puede explicar genuinamente por qué llegó a una conclusión. Puede generar texto que suene a explicación, pero esa explicación es en sí misma una predicción estadística, no una reconstrucción causal del proceso. Esto crea una tensión directa con normas que exigen explicaciones “inteligibles” o “comprensibles” para el afectado. El artículo 22 del RGPD europeo y sus equivalentes en la Ley 25.326 de Argentina —que habilita decisiones automatizadas solo con garantías específicas— asumen implícitamente que quien decide puede también explicar. Con los LLMs actuales, esa asunción no se sostiene.
En México, la LFPDPPP no tiene un artículo equivalente al 22 del RGPD, pero el INAI ha señalado en criterios recientes que el tratamiento automatizado de datos personales que produce efectos jurídicos debe estar documentado y ser auditable. Esa auditabilidad, aplicada a un LLM, requiere algo más que logs de input/output: requiere mecanismos de interpretabilidad del modelo —una disciplina técnica todavía emergente conocida como XAI (Explainable AI)— que la mayoría de las organizaciones desplegando estos sistemas en la región no ha implementado.
Qué implica esto para los marcos regulatorios que se están diseñando hoy
Los legisladores y reguladores de la región que están redactando normas de IA enfrentan una elección de diseño: regular los LLMs por sus capacidades declaradas (lo que los proveedores dicen que hacen) o por sus capacidades técnicas reales (lo que los modelos efectivamente pueden y no pueden hacer). La distinción entre predicción estadística y razonamiento genuino debería ser un criterio explícito en las definiciones de “sistema de IA de alto riesgo” en cualquier marco regional. Sin esa distinción, una norma puede quedar vaciada de contenido: un proveedor podría argumentar que su modelo “explica” sus decisiones simplemente porque genera texto con forma de explicación.
La solución técnica más robusta disponible hoy combina LLMs con sistemas simbólicos verificables —motores de reglas, árboles de decisión auditables, bases de conocimiento estructuradas— en arquitecturas híbridas donde el componente estadístico y el componente lógico tienen roles diferenciados y trazables. Eso no elimina los riesgos, pero sí permite aislar qué parte del proceso tomó qué tipo de decisión. Regular esa arquitectura —no solo el modelo— es el desafío pendiente.
Para quienes diseñan marcos de IA en la región: una norma que exige explicabilidad sin definir qué cuenta como explicación válida no protege a nadie. La pregunta técnica sobre si los LLMs razonan no es filosófica —es el fundamento de cualquier régimen de responsabilidad que pretenda funcionar.
