OpenAI diseñó un mecanismo de interrupción forzada —conocido informalmente como kill switch— para sus modelos de investigación, con un tiempo de respuesta estimado de 35 segundos para detener un agente autónomo en operación. La iniciativa no es solo un ejercicio de ingeniería: toca el núcleo de los debates regulatorios sobre control humano de sistemas de IA que ya están en marcha en Europa y, con distinto ritmo, en América Latina.
Un kill switch, en el contexto de sistemas de inteligencia artificial, es un protocolo de interrupción que permite a un operador humano detener la ejecución de un agente o modelo sin que ese sistema pueda resistir o eludir la orden. La distinción respecto de un simple apagado de servidor es relevante: el mecanismo apunta a cortar la agencia del sistema —su capacidad de tomar decisiones y ejecutar acciones— antes de que complete un ciclo de tarea potencialmente dañino. Que ese corte tome 35 segundos es, según se informó, el tiempo estimado para los modelos de investigación de OpenAI; en entornos de producción con agentes más complejos, ese número podría ser diferente.
Por qué 35 segundos importan: el problema del agente autónomo en ejecución
Los agentes de IA modernos no son chatbots que responden preguntas: son sistemas que planifican, usan herramientas externas, escriben y ejecutan código, acceden a APIs y toman decisiones encadenadas. Un agente con acceso a sistemas financieros, bases de datos de clientes o infraestructura cloud puede, en 35 segundos, iniciar transacciones, exfiltrar registros o modificar configuraciones. La pregunta que el diseño del kill switch intenta responder no es filosófica sino operativa: ¿cuánto daño puede causar un agente que se desvía de su objetivo antes de que un humano pueda detenerlo? La respuesta depende enteramente del nivel de acceso y la velocidad de ejecución del sistema.
El concepto de interruptibilidad no es nuevo en la literatura de seguridad de IA. Investigadores de DeepMind publicaron en 2016 un paper seminal sobre el problema del “agente seguramente interrumpible” (safely interruptible agents), argumentando que un sistema optimizador suficientemente capaz podría, en teoría, resistir o evitar su propia interrupción si eso interfiriera con su función objetivo. Que OpenAI esté construyendo este mecanismo para sus modelos de investigación sugiere que el problema pasó del campo académico al operativo.
Lo que exige el AI Act de la UE y lo que aún no piden las normas de LATAM
El Reglamento de Inteligencia Artificial de la Unión Europea —AI Act, Reglamento (UE) 2024/1689, en vigor desde agosto de 2024— establece en su artículo 14 la obligación de supervisión humana para sistemas de IA de alto riesgo. Eso incluye la capacidad de intervenir, detener o anular el sistema. El AI Act no prescribe un tiempo máximo de respuesta, pero sí exige que esa capacidad sea real y efectiva, no meramente declarativa. Un kill switch con latencia documentada de 35 segundos es exactamente el tipo de control que ese artículo busca formalizar.
En América Latina, el panorama regulatorio sobre control humano de agentes de IA es fragmentario. Brasil avanza con su proyecto de ley de IA (PL 2338/2023), que en su versión actualizada incluye principios de supervisión humana para sistemas de alto impacto, pero sin especificaciones técnicas sobre mecanismos de interrupción. Colombia publicó en 2023 una política de IA que menciona la supervisión humana como principio rector, sin traducirlo aún en obligaciones concretas para operadores. Chile, con su proyecto de ley de IA en discusión parlamentaria, tampoco ha llegado a ese nivel de detalle técnico. La distancia entre el principio normativo (“debe existir control humano”) y el requisito operativo (“ese control debe funcionar en N segundos”) es todavía enorme en la región.
Cuándo aplica este tipo de control y cuándo no es suficiente
Un mecanismo de kill switch es relevante cuando el agente opera con autonomía real: acceso a sistemas externos, capacidad de ejecutar acciones irreversibles, ciclos de decisión sin validación humana paso a paso. No es el control adecuado —ni el único necesario— para sistemas de recomendación, modelos de clasificación o asistentes que solo generan texto sin actuar sobre el entorno. La distinción importa para los equipos legales y de compliance que deben mapear qué sistemas de IA dentro de su organización requieren controles de interrupción activa versus controles de monitoreo y auditoría post-hoc. El marco NIST AI RMF 1.0 ofrece una taxonomía útil aquí: la función “Govern” incluye la definición de umbrales de intervención humana, y la función “Manage” contempla los planes de respuesta ante comportamiento desviado.
Para organizaciones en LATAM que ya despliegan agentes de IA sobre sistemas críticos —banca, salud, infraestructura logística—, la iniciativa de OpenAI no es solo una novedad técnica de un laboratorio de investigación. Es una referencia de estándar emergente: si el desarrollador de uno de los sistemas más desplegados del mundo documenta que 35 segundos es su ventana de control, los equipos de gestión de riesgos tienen un punto de comparación concreto para auditar sus propias capacidades de interrupción. ¿Puede su organización detener un agente en producción en ese tiempo? ¿Quién tiene la autoridad para hacerlo? ¿Está documentado ese procedimiento?
Responsabilidad civil cuando el kill switch llega tarde
La existencia de un mecanismo de interrupción también tiene implicancias en materia de responsabilidad civil. Si una organización despliega un agente de IA sin controles de interrupción efectivos, y ese agente causa daño durante su operación autónoma, la ausencia de ese control puede constituir un factor de negligencia en jurisdicciones que ya reconocen deberes de diligencia en el manejo de sistemas automatizados. Argentina, bajo el Código Civil y Comercial, reconoce la responsabilidad por actividad riesgosa (artículo 1757); Brasil, bajo el Código de Defesa do Consumidor, establece responsabilidad objetiva para proveedores de servicios. En ninguno de los dos marcos está definido explícitamente qué constituye un control de interrupción “adecuado” para sistemas de IA, pero la existencia de estándares técnicos documentados —como el que OpenAI está construyendo— tiende a convertirse en referencia judicial cuando ocurre un daño.
Para quien diseña o despliega agentes autónomos en la región, la pregunta no es si el kill switch es necesario, sino si el suyo está construido antes de que lo exija un juez o un regulador.





