Dos expertas de Partnership on AI, organización sin fines de lucro dedicada a las mejores prácticas en gobernanza de inteligencia artificial, argumentan que el monitoreo en tiempo real de las acciones de agentes de IA ya no es una opción técnica sino una necesidad regulatoria urgente. El planteo abre una pregunta directa para los marcos legales latinoamericanos: ¿quién responde cuando un agente autónomo actúa?
Madhulika Srikumar y Claire Leibowicz, investigadoras de Partnership on AI, publicaron una opinión en MIT Technology Review en la que sostienen que los agentes de inteligencia artificial —sistemas capaces de tomar decisiones y ejecutar acciones de forma autónoma, sin intervención humana paso a paso— requieren mecanismos de supervisión continua que hoy no existen de manera estandarizada. El argumento central no es técnico: es de responsabilidad. Si un agente de IA contrata un servicio, envía una comunicación o toma una decisión con efectos jurídicos, la pregunta sobre quién responde por ese acto no tiene respuesta clara en la mayoría de los ordenamientos jurídicos del mundo, incluidos los de América Latina.
Qué es un agente de IA y por qué su autonomía cambia el análisis legal
Un agente de IA no es un chatbot que responde preguntas. Es un sistema que percibe su entorno, planifica secuencias de acciones y las ejecuta para alcanzar un objetivo definido por un operador humano, pero sin requerir aprobación en cada paso. Esta distinción es crítica desde el punto de vista jurídico: cuando un sistema actúa de forma autónoma, la cadena tradicional de atribución de responsabilidad —usuario, desarrollador, empresa que despliega— se vuelve opaca. El daño puede ocurrir antes de que ningún humano haya revisado la acción que lo causó.
El monitoreo en tiempo real busca cerrar esa brecha. La idea es que toda acción ejecutada por un agente quede registrada, sea auditable y pueda activar alertas o frenos automáticos si el comportamiento se desvía de parámetros predefinidos. Sin ese registro, la reconstrucción post-facto de lo ocurrido —algo que reguladores y jueces necesitan para atribuir responsabilidad— resulta técnicamente imposible o fácilmente manipulable.
Cuándo aplica el monitoreo y cuándo NO es suficiente
El monitoreo en tiempo real aplica con mayor urgencia en contextos de alto riesgo: agentes que operan en salud, servicios financieros, infraestructura crítica o que procesan datos personales de manera masiva. En esos casos, el registro continuo no solo es una buena práctica de gobernanza sino que puede ser un requisito implícito bajo marcos ya vigentes. El AI Act de la Unión Europea, en su clasificación de sistemas de alto riesgo (Anexo III), exige capacidades de logging y trazabilidad que son funcionalmente equivalentes a lo que Srikumar y Leibowicz proponen.
Sin embargo, el monitoreo en tiempo real no reemplaza el diseño seguro desde el origen. Un sistema con logs impecables pero entrenado con objetivos mal definidos puede causar daño documentado pero no prevenido. Las autoras no sugieren que la observabilidad sea la única herramienta, sino que es una condición mínima necesaria para cualquier esquema de rendición de cuentas. Tampoco aplica de forma idéntica a todos los agentes: un sistema de automatización de tareas administrativas de bajo impacto no requiere el mismo nivel de supervisión que uno que decide sobre créditos o diagnósticos clínicos.
El vacío regulatorio en América Latina frente a agentes autónomos
En la región, ningún país cuenta aún con regulación específica sobre agentes de IA. Brasil avanza con el Projeto de Lei 2338/2023 —su propuesta de marco regulatorio de IA, actualmente en el Senado—, que incorpora nociones de supervisión humana y sistemas de alto riesgo con influencia directa del AI Act europeo. México y Colombia tienen iniciativas en distintos estados de desarrollo parlamentario, pero ninguna aborda todavía la cuestión específica de la autonomía de los agentes ni los requisitos de logging de sus acciones. Argentina, cuya Estrategia Nacional de IA fue actualizada en 2024, tampoco cuenta con normativa vinculante al respecto.
Esta ausencia tiene consecuencias prácticas inmediatas. Empresas que despliegan agentes de IA en la región operan hoy bajo un vacío: no hay estándar mínimo de trazabilidad exigible, no hay autoridad de control claramente designada para supervisar incidentes causados por sistemas autónomos, y no hay criterio judicial establecido sobre responsabilidad civil en estos casos. Cuando el daño ocurra —y según la velocidad de adopción de estas tecnologías, es cuestión de tiempo— los litigios se resolverán sobre marcos normativos diseñados para actos humanos o para software estático, no para sistemas que aprenden y actúan.
Qué significa “monitoreo” en términos técnicos y jurídicos concretos
Monitorear un agente de IA en tiempo real implica, como mínimo, tres capacidades: registro estructurado de cada acción ejecutada con timestamp y contexto de activación; mecanismos de interrupción que permitan a un operador humano detener al agente ante comportamientos anómalos; y trazabilidad del razonamiento, es decir, la capacidad de reconstruir por qué el sistema tomó una decisión determinada. Esta última capacidad es la más exigente técnicamente y la que más directamente conecta con los principios de explicabilidad que ya exigen marcos como el GDPR europeo o que la LGPD brasileña contempla en su artículo 20 para decisiones automatizadas.
Desde el derecho, el monitoreo cumple una función de evidencia: convierte las acciones del agente en un registro que puede ser objeto de pericia judicial, auditoría regulatoria o ejercicio de derechos de acceso por parte de ciudadanos afectados. Sin ese registro, el principio de accountability —que la LGPD recoge en su artículo 6, inciso X, y que la Ley 25.326 argentina contempla en términos de responsabilidad del responsable del tratamiento— se vuelve letra muerta frente a sistemas que actúan de forma no documentada.
La regulación de agentes de IA en América Latina llegará, pero los incidentes no esperarán a que los parlamentos actúen: las organizaciones que despliegan estos sistemas hoy tienen la carga de documentar lo que sus agentes hacen, porque mañana esa documentación será lo único que los distinga entre responsables diligentes y responsables a secas.
