Un informe de Anthropic publicado a fines de septiembre de 2026 puso en el centro del debate regulatorio una pregunta que los marcos legales de América Latina todavía no saben responder: ¿cuándo los beneficios de un modelo de inteligencia artificial de código abierto dejan de justificar sus riesgos? El caso que dispara la discusión es GLM-5.3, señalado en el documento como vector potencial para ciberataques de escala significativa.
La distinción entre modelos “abiertos” y “cerrados” no es binaria. Un modelo puede tener pesos públicamente disponibles pero sin código de entrenamiento, o publicar todo el stack técnico pero con restricciones de uso comercial. Lo que el informe de Anthropic pone en tensión es específicamente la disponibilidad irrestricta de pesos de modelos de frontera: aquellos lo suficientemente capaces como para asistir en la generación de ciberarmas o en la automatización de ataques dirigidos. La preocupación no es teórica: según el documento, GLM-5.3 reduce la barrera de entrada para actores sin conocimiento técnico especializado en ciberseguridad ofensiva.
Por qué los modelos abiertos tienen defensores con argumentos sólidos
La academia, los laboratorios de seguridad independientes y los gobiernos con presupuesto limitado dependen de modelos abiertos para investigación, auditoría y desarrollo de capacidades propias. En América Latina, donde el acceso a modelos propietarios de frontera está condicionado por restricciones geográficas, costos en dólares y cláusulas de uso aceptable que muchas veces excluyen aplicaciones del sector público, los modelos abiertos funcionan como infraestructura crítica de soberanía tecnológica. Brasil, México y Argentina han comenzado a articular estrategias nacionales de inteligencia artificial que dependen explícitamente de modelos con pesos accesibles para no quedar atados a un solo proveedor.
Además, la apertura habilita la auditoría externa. Un modelo cuyos pesos y arquitectura son públicos puede ser evaluado por terceros independientes, reguladores y organizaciones de la sociedad civil para detectar sesgos, capacidades peligrosas o comportamientos no declarados. Esta posibilidad de escrutinio externo es, paradójicamente, uno de los argumentos más fuertes a favor de la apertura desde una perspectiva de gobernanza de IA.
El argumento de Anthropic y sus límites como base regulatoria
El informe de Anthropic identifica en GLM-5.3 un umbral de capacidad que, combinado con la disponibilidad irrestricta de sus pesos, genera riesgo sistémico. La lógica es coherente: si un modelo puede asistir materialmente en un ciberataque y cualquiera puede descargarlo y modificarlo sin restricción, el daño potencial se multiplica en formas que ningún sistema de monitoreo centralizado puede anticipar. Sin embargo, los críticos del informe señalan que Anthropic es un actor con intereses directos en el resultado del debate: sus modelos principales son cerrados, y cualquier regulación que restrinja modelos abiertos de alta capacidad favorece su posición competitiva. Eso no invalida el argumento técnico, pero sí obliga a leerlo con precaución metodológica.
El problema de fondo para los reguladores es que no existe consenso sobre qué nivel de capacidad convierte a un modelo abierto en un riesgo inaceptable. El AI Act de la Unión Europea establece obligaciones diferenciadas para modelos de “propósito general de alto impacto” —aquellos entrenados con más de 10^25 FLOPs— pero la línea entre riesgo tolerable e intolerable para modelos abiertos sigue siendo objeto de negociación técnica y política, no un dato objetivo.
Cuándo aplica la restricción y cuándo no: el criterio de capacidad marginal
El marco más extendido entre investigadores de seguridad de IA propone evaluar la “capacidad marginal” que un modelo abierto aporta a un actor malicioso: si la información o asistencia que provee ya está disponible en fuentes públicas, la restricción no reduce el riesgo sino que solo limita los usos legítimos. Bajo este criterio, restringir un modelo que puede explicar conceptos de ciberseguridad básicos tiene bajo retorno de seguridad y alto costo en acceso legítimo. En cambio, un modelo que demuestra capacidad para automatizar pasos técnicos avanzados de un ataque —que no son trivialmente reproducibles con búsquedas convencionales— sí presenta una ecuación diferente.
Este criterio no resuelve el caso de GLM-5.3 de forma automática, porque la evaluación empírica de esa capacidad marginal requiere metodologías de red teaming estandarizadas que aún no están formalizadas en ninguna jurisdicción de América Latina. Chile, que avanza en su proyecto de ley de inteligencia artificial, y Brasil, con su Estratégia Brasileira de Inteligência Artificial (EBIA) en proceso de actualización, no han definido todavía protocolos de evaluación de capacidades peligrosas aplicables a modelos abiertos.
Lo que la región necesita antes de legislar sobre modelos abiertos
Regular la disponibilidad de pesos de modelos sin capacidad técnica instalada para evaluarlos es legislar a ciegas. Los organismos regulatorios de la región —ANATEL en Brasil, la Subsecretaría de Telecomunicaciones en Chile, o las autoridades que emerjan de los marcos de IA en discusión— necesitan tres cosas antes de poder tomar decisiones fundadas: primero, metodologías de evaluación de riesgo que sean reproducibles e independientes del fabricante; segundo, acceso a los modelos para realizar esas evaluaciones, lo que implica mecanismos de divulgación responsable; y tercero, criterios explícitos sobre qué tipo de capacidades activan el umbral de restricción, diferenciando entre riesgo cibernético, riesgo de bioseguridad y riesgo de desinformación, que tienen perfiles muy distintos.
Sin esos tres elementos, cualquier regulación sobre modelos abiertos en la región replicará debates de otras jurisdicciones sin adaptarlos a la realidad local: menor capacidad de cómputo instalada, mayor dependencia de herramientas abiertas en el sector público, y ecosistemas de investigación que no pueden competir con laboratorios privados en acceso a modelos de frontera cerrados.
El texto completo del informe de Anthropic sobre GLM-5.3 y los marcos comparativos del AI Act (Artículo 51 y Anexo XIII sobre modelos de propósito general) son el punto de partida obligado para cualquier equipo jurídico o técnico que deba posicionarse ante consultas regulatorias en la región durante los próximos meses.
