Los agentes de inteligencia artificial autónomos abren una nueva categoría de riesgo jurídico que los marcos regulatorios vigentes en Chile —y en gran parte de América Latina— no contemplaron: la de un sistema que actúa, decide y puede causar daño sin intervención humana directa en cada paso. La pregunta sobre quién responde cuando un agente de IA es el vector de un ciberataque no tiene hoy una respuesta legal clara en la región.
Un agente de IA no es un chatbot que responde preguntas. Es un sistema capaz de planificar secuencias de acciones, ejecutarlas en entornos digitales reales —navegar sitios, escribir código, enviar correos, interactuar con APIs— y adaptarse a los resultados de cada paso sin que un humano apruebe cada decisión. Esa autonomía operativa es precisamente lo que los convierte en herramientas de alto valor para ciberataques sofisticados: pueden escalar ataques de phishing, explorar vulnerabilidades de forma sistemática o exfiltrar datos con una velocidad y personalización que supera ampliamente la capacidad humana.
Chile ante un marco legal diseñado para amenazas del pasado
Chile cuenta con la Ley 21.663, promulgada en 2024, que modernizó el marco de delitos informáticos alineándolo con el Convenio de Budapest. Sin embargo, esa norma fue diseñada con el paradigma del atacante humano: alguien que accede, alguien que intercepta, alguien que daña. Cuando el agente que ejecuta las acciones es un sistema autónomo de IA, la cadena de atribución de responsabilidad se fragmenta entre el desarrollador del modelo, el operador que lo desplegó, el usuario que lo instruyó —o nadie, si el agente actuó por derivación de sus propios objetivos entrenados. La Ley Marco de Ciberseguridad (Ley 21.459, vigente desde 2023) obliga a operadores de infraestructura crítica a reportar incidentes ante la Agencia Nacional de Ciberseguridad (ANCI), pero no define criterios específicos para incidentes mediados por sistemas de IA.
El proyecto de ley de inteligencia artificial que Chile tiene en tramitación legislativa sigue un enfoque de riesgos inspirado en el AI Act de la Unión Europea, pero a la fecha no ha sido aprobado. Eso significa que el país enfrenta la proliferación de agentes de IA sin una norma vigente que establezca qué obligaciones tienen quienes los desarrollan o despliegan cuando esos sistemas participan —de forma activa o como vector explotado— en un incidente de seguridad.
Responsabilidad civil y penal: el nudo que el AI Act europeo tampoco resolvió del todo
La Unión Europea aprobó el AI Act en 2024, clasificando los sistemas de IA por niveles de riesgo. Los agentes con capacidad de acción autónoma en entornos abiertos pueden caer en la categoría de “alto riesgo” o incluso enfrentar restricciones específicas, dependiendo del dominio de uso. Pero el AI Act es un marco de gobernanza y certificación, no un régimen de responsabilidad civil directa: para eso, la Comisión Europea trabaja en paralelo con la revisión de la Directiva de Responsabilidad por Productos Defectuosos. Chile y el resto de América Latina observan ese proceso como referencia, pero sin un equivalente regional consolidado. Brasil, cuyo Proyecto de Ley 2.338/2023 de regulación de IA avanza en el Senado, es el país de la región que más ha progresado en definir obligaciones para sistemas de alto riesgo, aunque tampoco ha cerrado el capítulo de responsabilidad por daños causados por agentes autónomos.
Cuándo aplica la regulación vigente y cuándo no
La regulación actual en Chile cubre los efectos del ciberataque —acceso no autorizado, daño a sistemas, interrupción de servicios— con independencia de si el vector fue humano o automatizado. En ese sentido, las obligaciones de reporte a la ANCI se activan ante el incidente, no ante su causa. Lo que no cubre es la responsabilidad prospectiva del desarrollador o desplegador de un agente de IA que fue el instrumento del ataque, ni establece estándares de diseño seguro para esos sistemas. Tampoco existe en Chile —ni en Argentina, México o Colombia— una obligación legal de realizar evaluaciones de impacto de seguridad antes de desplegar agentes de IA en entornos críticos, algo que el AI Act europeo sí exige para sistemas de alto riesgo.
El escenario cambia si el agente de IA procesa datos personales durante el ataque o como parte de su funcionamiento normal. En ese caso, la Ley 21.719 de protección de datos personales —aprobada en Chile en 2024 y con entrada en vigor gradual— establece obligaciones de seguridad y notificación a la Agencia de Protección de Datos Personales que sí aplican, con independencia de si el incidente fue causado por un agente autónomo o por un humano.
El vector de ataque más subestimado: el agente comprometido desde adentro
El riesgo más inmediato no es necesariamente que un actor malicioso construya un agente de IA para atacar desde afuera. Es que un agente desplegado internamente en una organización —para automatizar procesos, gestionar correos, interactuar con sistemas internos— sea manipulado mediante técnicas de prompt injection para exfiltrar información, escalar privilegios o ejecutar acciones no autorizadas. Este vector combina las vulnerabilidades propias de los modelos de lenguaje con el acceso legítimo que la organización ya le concedió al agente. En términos de gobernanza, es equivalente a una cuenta de servicio con permisos excesivos y sin auditoría: un problema conocido, pero potenciado por la capacidad del agente de razonar y adaptarse. Las organizaciones que ya desplegaron agentes de IA en Chile —y en toda la región— operan en su mayoría sin políticas formales de gestión de esos sistemas, sin inventarios de los accesos que tienen y sin procedimientos de respuesta específicos para incidentes donde el agente es parte del vector.
Para profundizar en el marco regulatorio vigente, la Ley 21.719 de protección de datos personales de Chile y la Ley Marco de Ciberseguridad 21.459 están disponibles en el sitio del Diario Oficial de Chile; el texto consolidado del AI Act europeo puede consultarse en el Diario Oficial de la Unión Europea (OJ L, 2024/1689).
