Cuando un agente de inteligencia artificial ejecuta una acción dañina sin intervención humana directa, la pregunta jurídica más urgente no es técnica sino legal: ¿quién asume la responsabilidad? La respuesta todavía no existe con claridad en ningún ordenamiento jurídico de América Latina, y eso representa un riesgo concreto para empresas, usuarios y reguladores.
Un agente de IA es un sistema que percibe su entorno, toma decisiones y ejecuta acciones de forma autónoma para cumplir un objetivo definido por un operador humano. A diferencia de un chatbot que responde preguntas, un agente puede enviar correos, ejecutar código, realizar transacciones o interactuar con otros sistemas sin que una persona apruebe cada paso. Esa autonomía es su valor comercial y, simultáneamente, el origen del problema jurídico.
El vacío en los marcos de responsabilidad civil tradicionales
El derecho civil clásico —tanto en el Código Civil y Comercial argentino como en el Código Civil brasileño o el mexicano— atribuye responsabilidad a personas físicas o jurídicas por actos propios o por quienes están bajo su dependencia. Un agente de IA no encaja limpiamente en ninguna de esas categorías. No es un empleado, no es una herramienta estática como un martillo, y tampoco es una persona jurídica con patrimonio propio. Cuando el sistema actúa por fuera del mandato original —ya sea por un fallo de diseño, un prompt adversarial o una cadena de decisiones imprevistas— la cadena de causalidad jurídica se vuelve opaca. ¿Responde el desarrollador del modelo base? ¿El operador que desplegó el agente? ¿La empresa que lo integró en su flujo de negocio? ¿El usuario que configuró el objetivo?
En la práctica, la respuesta dependerá del tipo de daño, del contrato entre las partes y de la jurisdicción. Pero ningún país de la región tiene hoy una norma específica que asigne ese peso de forma clara.
Lo que el AI Act europeo dice —y lo que LATAM no tiene
La Unión Europea es la única jurisdicción que ha avanzado con un marco vinculante. El AI Act, en vigor desde agosto de 2024, clasifica los sistemas de IA por nivel de riesgo y establece obligaciones diferenciadas para desarrolladores y desplegadores. Para sistemas de alto riesgo, exige documentación técnica, supervisión humana y trazabilidad de decisiones. Sin embargo, incluso ese marco —el más desarrollado del mundo— no resuelve de forma directa la responsabilidad extracontractual cuando un agente autónomo causa daño a un tercero que no firmó ningún contrato con nadie en la cadena.
En América Latina, el panorama es más fragmentado. Brasil avanza con su Proyecto de Ley 2338/2023, que propone una clasificación de riesgo similar a la europea y obliga a los operadores a mantener supervisión humana en sistemas de alto impacto. México tiene lineamientos no vinculantes del IFT y propuestas aisladas en el Congreso. Argentina carece de legislación específica de IA, aunque la AAIP emitió en 2023 recomendaciones sobre el uso de IA en tratamiento de datos personales bajo el paraguas de la Ley 25.326. Colombia, Chile y Perú tienen documentos de política pública pero ninguna norma con fuerza de ley aplicable a agentes autónomos.
Cuándo aplica la responsabilidad objetiva — y cuándo no
La doctrina de responsabilidad objetiva —que no exige probar culpa, sino solo el daño y el nexo causal con la actividad riesgosa— es la que con mayor frecuencia invocan los académicos como solución transitoria. En Argentina, el artículo 1757 del Código Civil y Comercial establece responsabilidad objetiva por el riesgo o vicio de las cosas. Algunos juristas argumentan que podría extenderse a sistemas autónomos de IA, aunque la jurisprudencia al respecto es prácticamente inexistente. En Brasil, el artículo 927, párrafo único del Código Civil tiene una lógica similar. El problema es que estos artículos fueron diseñados para cosas materiales —un vehículo, una instalación eléctrica— y su aplicación a software que toma decisiones en tiempo real requeriría interpretación extensiva o reforma legislativa.
La responsabilidad objetiva tampoco aplica de forma uniforme cuando el daño es causado por una cadena de agentes: un agente que instruye a otro, que a su vez actúa sobre un sistema de terceros. En esos escenarios de orquestación multi-agente —cada vez más frecuentes en aplicaciones empresariales— identificar al responsable último se vuelve técnicamente complejo y jurídicamente sin respuesta clara.
Tres preguntas que los contratos no pueden ignorar hoy
Mientras los reguladores se ponen al día, la gestión del riesgo se desplaza hacia los contratos privados y las políticas internas. Cualquier organización que despliegue agentes de IA debería poder responder tres preguntas antes de hacerlo: primero, ¿qué acciones puede tomar el agente sin aprobación humana y cuál es el daño máximo posible de cada una? Segundo, ¿el contrato con el proveedor del modelo base incluye cláusulas de indemnidad y hasta qué monto? Tercero, ¿existe un mecanismo de interrupción —kill switch— documentado y auditado que pueda activarse si el agente actúa fuera del mandato?
El marco NIST AI RMF, adoptado como referencia por varias empresas de la región, incluye en su función “Govern” la exigencia de documentar el alcance de autonomía de los sistemas desplegados. No es un requisito legal en LATAM, pero constituye evidencia de diligencia razonable en caso de litigio.
Cuándo el problema también es de datos personales
Si el agente procesa datos personales en su operación —lo que ocurre en la mayoría de los casos de uso empresarial— se superpone una segunda capa regulatoria: las leyes de protección de datos. En Brasil, la ANPD ya señaló que el uso de agentes de IA en tratamientos automatizados con impacto significativo en titulares activa el derecho de revisión humana previsto en el artículo 20 de la LGPD. En Argentina, la AAIP tiene facultad para investigar decisiones automatizadas bajo la Ley 25.326, aunque la norma no menciona explícitamente a los agentes de IA. Esa superposición —responsabilidad civil por daño más obligación de protección de datos— es el escenario de mayor exposición regulatoria para las empresas que operan en la región.
Hasta que los legisladores de la región definan quién responde cuando un agente autónomo causa daño, las organizaciones que despliegan estos sistemas están, en los hechos, asumiendo una responsabilidad que ningún contrato de términos de servicio ha sabido acotar todavía.
