OpenAI desplegó un sistema de marca de agua (watermarking) para texto generado por modelos de lenguaje, pero la implementación levantó señales de alerta entre expertos en regulación de IA: la solución está lejos de ser inviolable y plantea interrogantes sobre su valor real como herramienta de cumplimiento normativo.
El watermarking de texto consiste en incrustar señales estadísticas en las salidas de un modelo de lenguaje grande (LLM), de modo que un detector pueda identificar con cierta probabilidad si un fragmento de texto fue generado por IA. A diferencia del watermarking en imágenes o audio —donde se modifica un archivo binario—, en texto el proceso opera sobre la distribución de probabilidades de los tokens: el modelo ajusta sutilmente qué palabras elige, creando un patrón no visible para el ojo humano pero detectable algorítmicamente. OpenAI, según se informó, integró una variante de este mecanismo en sus APIs de generación de texto.
Por qué la industria lo califica de insuficiente
El problema central no es técnico, es de robustez. Los sistemas de watermarking de texto actuales son vulnerables a ataques simples: reescribir el fragmento con otra herramienta de IA, traducirlo y retro-traducirlo, o incluso hacer pequeñas ediciones manuales puede borrar la señal sin afectar el contenido del mensaje. Investigadores de universidades como Maryland y Stanford han demostrado en los últimos dos años que ningún esquema de watermarking textual existente es a la vez indetectable para el usuario, robusto frente a manipulaciones y verificable sin acceso al modelo original. Es lo que el campo llama el trilema del watermarking. Que una empresa del tamaño de OpenAI lance una implementación sin resolver ese trilema —y sin publicar el diseño técnico completo para escrutinio externo— genera desconfianza justificada en la comunidad regulatoria.
Cuándo aplica y cuándo NO como herramienta de cumplimiento
El watermarking de texto tiene utilidad real en escenarios acotados: detectar abuso masivo y automatizado de las APIs del propio proveedor (fraude a escala industrial, spam de contenido), hacer auditorías internas donde el sistema de detección y el de generación pertenecen al mismo operador, o generar evidencia forense en litigios cuando el atacante no tuvo incentivo ni capacidad para manipular el texto. Lo que no puede hacer —y aquí está el malentendido regulatorio más peligroso— es funcionar como garantía de cumplimiento en entornos adversariales: si un actor malicioso sabe que el texto está marcado, puede borrarlo. Tampoco sirve como control de calidad para identificar texto de IA en contextos de alto riesgo como evaluaciones académicas, procesos judiciales o información médica, donde el costo de un falso negativo es inaceptable.
El AI Act europeo y la obligación de revelación que cambia el juego
El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act, Reglamento UE 2024/1689) establece en su artículo 50 una obligación explícita para los proveedores de sistemas de IA generativa: garantizar que los outputs generados artificialmente sean marcables de forma técnicamente robusta y detectable por herramientas automatizadas. La formulación europea es más exigente que una implementación voluntaria y parcial —incluye texto, imágenes, audio y video— y aplica a modelos de propósito general con impacto sistémico. El plazo de aplicación escalonado llega a su fase plena en agosto de 2026 para los modelos de mayor riesgo. El anuncio de OpenAI podría leerse como un movimiento anticipatorio para alinearse con esa exigencia, aunque los detalles técnicos disponibles no permiten confirmar que la implementación cumple el estándar europeo de “detección técnicamente robusta”.
América Latina: sin obligación de marca de agua, con exposición igual o mayor
Ningún país de América Latina tiene hoy una norma equivalente al artículo 50 del AI Act que obligue a los proveedores de LLMs a implementar watermarking. Brasil avanza con el Projeto de Lei 2338/2023 de regulación de IA, que en su texto actual establece principios de transparencia algorítmica pero no prescribe mecanismos técnicos específicos como el marcado de salidas. México, Argentina y Colombia tampoco cuentan con regulación sectorial que lo exija. Sin embargo, la exposición al problema es concreta: contenido generado por IA circula masivamente en campañas electorales, plataformas de desinformación y procesos académicos en toda la región, sin que existan controles técnicos mínimos ni autoridades con capacidad técnica para auditar proveedores extranjeros. La brecha no es regulatoria solamente —es también de capacidad institucional para exigir cumplimiento a empresas que operan desde fuera de la jurisdicción.
Para los equipos jurídicos y de compliance que evalúan riesgos asociados al uso de IA generativa en sus organizaciones, el punto operativo más inmediato es este: no traten el watermarking como un control de riesgo suficiente en ningún proceso donde la autenticidad del texto tenga consecuencias legales o reputacionales. Si la política interna de uso de IA requiere trazabilidad del origen de los contenidos, el watermarking de proveedor puede ser una capa adicional, pero no la única. Los metadatos de auditoría, los logs de uso de API y los procesos de revisión humana siguen siendo el núcleo de cualquier framework de gobernanza de IA que resista un escrutinio externo.
La marca de agua que se borra con un copia-pega y un segundo modelo no es cumplimiento normativo: es su apariencia.
