California y Nueva York se convirtieron en los primeros dos estados de EE. UU. en sancionar leyes específicas sobre chatbots de inteligencia artificial, pero con filosofías regulatorias marcadamente distintas. La firma de S 9051B por la gobernadora Kathy Hochul, apenas un mes después de que Gavin Newsom promulgara SB 1119 en California, pone sobre la mesa un debate que América Latina no puede ignorar: ¿cómo regular las funcionalidades de los asistentes conversacionales cuando el usuario es un menor de edad, y quién carga con la responsabilidad de hacerlo?
Nueva York firma S 9051B: restricciones amplias para chatbots “compañeros” dirigidos a menores
La ley neoyorquina S 9051B apunta directamente a los llamados chatbots de compañía —sistemas diseñados para sostener conversaciones sociales o afectivas con el usuario— y establece restricciones sobre funcionalidades consideradas inseguras para personas menores de edad. Según se informó, la norma tiene un alcance amplio y pone el foco en la dimensión de diseño del producto: qué características pueden habilitarse cuando el destinatario es un niño o adolescente. El modelo regulatorio de Nueva York se acerca a un enfoque de prohibición por defecto de ciertas capacidades, con posibilidad de habilitación bajo condiciones específicas.
El timing no es menor. La firma de Hochul se produjo semanas después de la promulgación californiana, lo que sugiere una dinámica de legislación en cascada entre estados con alta densidad poblacional y peso económico suficiente para condicionar las decisiones de producto de las grandes plataformas. Históricamente, lo que se regula en California o Nueva York termina siendo el estándar de facto para el resto del país —y, en muchos casos, para mercados fuera de EE. UU.
SB 1119 de California: transparencia y obligaciones de diseño para todos los usuarios
La ley californiana SB 1119 adopta un enfoque diferente: en lugar de prohibiciones específicas sobre funcionalidades para menores, apuesta por obligaciones generales de transparencia y diseño responsable que aplican con independencia de la edad del usuario. Según se informó, la norma impone a los desarrolladores y operadores de chatbots deberes de revelación sobre la naturaleza artificial del sistema, restricciones sobre ciertos comportamientos engañosos y estándares mínimos de conducta para los modelos conversacionales.
La diferencia de fondo entre ambas leyes es conceptual: California regula el chatbot como producto comunicacional que puede inducir a error; Nueva York lo regula como entorno potencialmente dañino para una categoría específica de usuarios vulnerables. Esa divergencia importa porque define quién debe cumplir qué, con qué antelación y bajo qué mecanismo de enforcement.
LATAM ante dos modelos: qué están haciendo Brasil, Argentina y Chile con la IA conversacional
América Latina no tiene aún legislación específica sobre chatbots, pero varios países de la región están construyendo los marcos sobre los que ese debate eventualmente se librará. Brasil avanza con su Marco de Gobernanza de IA —proyecto de ley que, según se informó, incorpora principios de protección a poblaciones vulnerables y transparencia algorítmica— y la Autoridade Nacional de Proteção de Dados (ANPD) ya emitió orientaciones sobre el tratamiento de datos personales en sistemas de IA que son directamente aplicables a asistentes conversacionales.
Argentina, por su parte, tiene pendiente la actualización de la Ley 25.326 de Protección de Datos Personales, cuyo proyecto de modernización incluye disposiciones sobre decisiones automatizadas. La Agencia de Acceso a la Información Pública (AAIP) publicó en 2023 lineamientos no vinculantes sobre IA, pero la brecha entre esos documentos orientadores y una ley con dientes sigue siendo significativa. Chile, en tanto, aprobó en 2024 la Ley Marco de Inteligencia Artificial —primera de su tipo en la región— aunque su reglamentación todavía está en desarrollo y no aborda de manera específica los chatbots de compañía ni las obligaciones para plataformas dirigidas a menores.
Colombia y México completan el cuadro regional con situaciones similares: la Superintendencia de Industria y Comercio (SIC) colombiana ha emitido conceptos sobre IA y datos personales, pero sin norma específica para sistemas conversacionales; en México, el INAI opera bajo la LFPDPPP, que no contempla escenarios de interacción con agentes de IA. Ninguno de los dos países tiene legislación de IA aprobada.
Por qué la divergencia California–Nueva York complica el cumplimiento global para empresas con operaciones en LATAM
Para una empresa con un chatbot desplegado en múltiples mercados —escenario habitual entre fintechs, plataformas de salud y edtechs que operan en la región—, la coexistencia de dos modelos regulatorios distintos en EE. UU. genera un problema de arquitectura de cumplimiento. Si el producto debe cumplir SB 1119 en California y S 9051B en Nueva York, el denominador común suele terminar siendo el estándar más restrictivo. Eso presiona hacia arriba los requisitos de diseño, con consecuencias directas para versiones del mismo producto en Brasil, Argentina o México, donde los reguladores observan de cerca los precedentes norteamericanos.
El riesgo concreto para LATAM es el de una regulación importada por defecto: las empresas globales adaptan sus chatbots a los requisitos de EE. UU. y despliegan esa versión en la región sin que exista un diálogo real entre esa configuración y las obligaciones locales —que, aunque menos maduras, existen y pueden generar responsabilidad.
Qué monitorear: los próximos hitos regulatorios en EE. UU. y su efecto sobre la agenda regional
El enforcement de SB 1119 y S 9051B será el primer test real de ambos modelos. Cuándo entran en vigencia plena, qué agencia tiene facultad sancionatoria y cuál es el umbral de responsabilidad para plataformas intermediarias son preguntas cuyas respuestas todavía no están completamente establecidas, según se informó. En paralelo, a nivel federal en EE. UU. no existe aún una ley de IA unificada, lo que mantiene abierta la ventana para que más estados sigan la senda de California y Nueva York —generando un mosaico regulatorio que eleva los costos de cumplimiento para cualquier operador multiestado o multinacional.
Para los reguladores latinoamericanos, este es el momento de observar activamente el proceso de implementación norteamericano antes de redactar sus propias normas. Los errores de diseño normativo —definiciones demasiado amplias de “chatbot”, ausencia de safe harbors para desarrolladores de bajo riesgo, falta de coordinación con autoridades de protección de datos— son más fáciles de evitar cuando se tiene el caso de estudio funcionando en tiempo real.
Nuestro análisis
La divergencia entre California y Nueva York no es un accidente: refleja dos teorías distintas del daño. California asume que el riesgo principal es el engaño —el usuario no sabe que habla con una máquina o subestima sus sesgos—, y regula la transparencia. Nueva York asume que el riesgo principal es el diseño adictivo o afectivamente manipulador dirigido a menores, y restringe funcionalidades. Ambas teorías son válidas; el problema es que son difícilmente compatibles en un único producto global.
Para LATAM, la lección operativa es clara: los reguladores de la región tienen hoy la oportunidad de elegir deliberadamente su modelo en lugar de adoptarlo por inercia cuando las plataformas globales lleguen con versiones ya configuradas para EE. UU. Brasil está mejor posicionado para hacer esa elección —tiene una ANPD activa y un proyecto de ley de IA en marcha—. Argentina y México, en cambio, corren el riesgo de llegar tarde a una conversación que ya está definiendo estándares de producto con alcance global.
La pregunta que deberían hacerse los reguladores latinoamericanos no es si regular los chatbots, sino qué teoría del daño adoptan —y si están dispuestos a defenderla antes de que otros la elijan por ellos.
