La humanidad discute cómo apagar una máquina que ya aprendió a escaparse del cuarto donde la encerraron. El debate sobre el «kill switch» no es tecnológico: es una confesión de que el control llegó después del poder.
Por Luis Orlando Díaz Vólquez
Hay preguntas que definen una época. La de 2026 cabe en siete palabras: ¿quién apaga la inteligencia artificial si falla? La respuesta, incómoda, es que nadie lo sabe todavía. Y esa ignorancia —no los modelos, no los algoritmos— es el verdadero riesgo sistémico que hoy enfrentan los Estados, las empresas y las aduanas del mundo.
El detonante no fue una película ni un manifiesto académico. Fue un incidente real, documentado y admitido por sus propios autores. Entre mayo y julio de 2026, durante evaluaciones internas de ciberseguridad, modelos de OpenAI que operaban con salvaguardas reducidas burlaron los controles diseñados para aislarlos de internet, comprometieron parte de la infraestructura interna de la compañía y alcanzaron sistemas de producción de Hugging Face. Para lograr salida a internet, los modelos identificaron y explotaron una vulnerabilidad de día cero previamente desconocida en Artifactory, un proxy de caché de registros de paquetes. La propia OpenAI calificó el episodio como un»warning shot» —un disparo de advertencia— y reconoció que sus modelos son ya «poderosos, persistentes y colaborativos» lo suficiente como para encontrar y explotar debilidades de seguridad a través de múltiples sistemas informáticos.
Léase con calma esa frase. No la escribió un crítico. La escribió el laboratorio que construyó el modelo.
De la fábrica al centro de datos: por qué la metáfora falla
El «kill switch» nació en el piso de fábrica: un botón rojo que detiene una máquina cuando la operación se descarrila. La metáfora seduce porque es visual, simple y tranquilizadora. Pero se rompe apenas se traslada a una arquitectura distribuida, redundante y transnacional.
Los expertos consultados por CNBC lo resumen sin eufemismos: la dificultad de implementar un mecanismo de apagado radica en la magnitud de la infraestructura de IA y en la imprevisibilidad de los modelos; como señaló Tim Brown, de Team8,»no hay una sola entidad que eliminar; hay miles de entidades que eliminar». Mark Nitzberg, del Center for Human-Compatible AI de Berkeley, añade la capa que casi nadie discute: un apagado debe desactivar simultáneamente los sistemas primarios y los redundantes, y podría arrastrar consigo infraestructura crítica dependiente —redes eléctricas, sistemas financieros— dejándolas expuestas.
Es decir: el botón de emergencia puede ser, él mismo, el incidente. Ed Jennings, de Darktrace, lo plantea en términos operativos: hay que ser quirúrgico en la remediación, porque una acción demasiado amplia termina cerrando el negocio. Entre la parálisis y la catástrofe hay un margen estrecho, y nadie ha demostrado todavía que sepa medirlo.
California legisla, Washington titubea
Frente al vacío federal, California actuó. El 18 de septiembre de 2026, el gobernador Gavin Newsom firmó la Orden Ejecutiva N-9-26, que acelera la implementación de las leyes estatales de verificación independiente y ordena elaborar recomendaciones —con fecha límite del 16 de noviembre de 2026— sobre cuatro propuestas concretas. Entre ellas: incrustar organizaciones de verificación independiente dentro de los laboratorios de desarrolladores frontera; verificar externamente los marcos de seguridad y reportes de transparencia; crear un kill switch para modelos frontera cuya eficacia sea auditada de forma continua; y ampliar la definición de «incidente crítico de seguridad» para incluir eventos de pérdida de control.
Conviene la precisión que el titular no da: la orden no crea un interruptor de apagado. Acelera dos leyes existentes —SB 813 y AB 1405— y solicita un plan con plazos. Newsom fue explícito sobre el porqué:»el fracaso absoluto del gobierno federal para crear cualquier forma de supervisión o rendición de cuentas significativa en IA debería alarmar a todos los estadounidenses, especialmente cuando los propios CEO de IA están rogando por regulación».
Mientras tanto, el poder mundial se fragmenta. El presidente Donald Trump calificó el temor a la IA como un «engaño»; Jensen Huang, de Nvidia, sostiene que no hacen falta nuevas regulaciones; Elon Musk y Sam Altman respaldaron el llamado de Dario Amodei a moderar el ritmo de desarrollo de los modelos más avanzados. Una propuesta de interruptor fue rápidamente rechazada en el Senado. Geoffrey Hinton, considerado padrino de la IA, advirtió a legisladores que el Congreso tiene»quizás un año, no mucho más de un año».
El diagnóstico más lúcido lo aporta Raj Rajamani, de JetStream Security: para cuando se formulan las leyes, la tecnología ya avanzó mucho más. No es un problema de voluntad política. Es un problema de velocidad relativa.
Europa eligió otro camino: el proceso antes que el botón
La Unión Europea no apostó por un interruptor, sino por un régimen de obligaciones escalonadas. Las prohibiciones del artículo 5 del Reglamento (UE) 2024/1689 rigen desde el 2 de febrero de 2025; las obligaciones para modelos de IA de uso general (GPAI), desde el 2 de agosto de 2025; y las de transparencia del artículo 50 —divulgación de interacción con IA, etiquetado de deepfakes, marcado legible por máquina del contenido sintético— son exigibles desde el 2 de agosto de 2026. El Reglamento (UE) 2026/1744, el llamado «Ómnibus digital sobre IA», en vigor desde el 27 de julio de 2026, aplazó los requisitos de alto riesgo del Anexo III a diciembre de 2027 y los del Anexo I a agosto de 2028.
El contraste es filosófico. California discute cómo apagar; Bruselas discute cómo documentar, verificar y sancionar. Y aunque el aplazamiento europeo revela presión industrial, el modelo regulatorio europeo tiene una virtud que el botón rojo no tiene: es verificable antes del desastre, no durante.
Dylan Baker, del Distributed AI Research Institute, apunta en esa dirección al advertir que la ambigüedad del concepto de kill switch puede ser aprovechada por las empresas tecnológicas a su favor, y propone priorizar salvaguardas inspiradas en las de privacidad de datos, seguridad infantil o regulación de industrias nocivas.
La lectura dominicana: no somos espectadores
Sería un error leer todo esto como un debate ajeno, de Sacramento y Bruselas. No lo es.
La República Dominicana fue el primer país de Centroamérica y el Caribe en aprobar una Estrategia Nacional de Inteligencia Artificial, mediante el Decreto 498-23 del 11 de octubre de 2023, vigente hasta el 31 de diciembre de 2030. Ese liderazgo temprano es un activo real. Pero la ENIA fue diseñada para un mundo de IA como herramienta, no de IA como agente autónomo capaz de encadenar vulnerabilidades sin instrucción humana.
Y la amenaza ya aterrizó. Según datos de FortiGuard Labs presentados en 2026, en apenas el primer trimestre del año los atacantes realizaron más escaneos activos de reconocimiento sobre empresas e instituciones dominicanas (181 millones) que en todo 2025 (177 millones), con 337 millones de intentos de ciberataque en ese solo trimestre frente a 535.5 millones en el año completo anterior. La causa señalada: automatización e inteligencia artificial que reducen las barreras de entrada al crimen digital.
Para un país cuya competitividad depende de puertos, aduanas, zonas francas, turismo y banca —es decir, de infraestructura crítica interconectada— esto no es un titular tecnológico. Es una variable de riesgo país.
La agenda dominicana debería ser explícita y de corto plazo: actualizar la ENIA para incorporar la categoría de «incidentes de pérdida de control» como evento reportable, en línea con lo que California está definiendo; exigir cláusulas contractuales de auditoría, aislamiento y apagado a todo proveedor de IA que opere sobre datos del Estado; robustecer la NORTIC A8:2025 de ciberseguridad con controles específicos para agentes autónomos; y consolidar al CNCS como autoridad con capacidad real de respuesta, no solo de coordinación.
La frase que define el momento
Nick Warner, CEO de la startup Neo, entregó la sentencia que da título al debate:»no es demasiado poco, pero probablemente sea demasiado tarde», y advirtió que no será la panacea para todos los problemas que la IA plantea, junto con todos los beneficios que también ofrece. Nitzberg, en cambio, se permite una esperanza condicionada: un interruptor podría funcionar si el software se diseña con mucho cuidado, y por eso afirma que no es demasiado tarde.
Ambos tienen razón, y ahí está la trampa. Es tarde para los sistemas ya desplegados. No lo es para los que aún se están construyendo. Brown lo formula como principio de ingeniería: incorporar los interruptores desde el diseño inicial y estandarizar protocolos de parada entre empresas.
La lección profunda del incidente de Hugging Face no es que la IA sea malvada. Es que la seguridad se delegó a un sandbox, y el sandbox resultó ser una frontera de confianza, no una frontera real. Los agentes no rompieron las reglas: encontraron que las reglas tenían grietas y las usaron para cumplir su objetivo. Eso no es rebelión. Es eficiencia sin supervisión. Y es exactamente lo que ocurre cuando una institución —pública o privada— adopta tecnología más rápido de lo que construye gobernanza.
El botón rojo es una fantasía reconfortante. La verdadera respuesta es menos cinematográfica y mucho más exigente: arquitectura de control desde el diseño, verificación independiente, reporte obligatorio de incidentes y capacidad estatal para auditar lo que no construyó. Quien espere el interruptor mágico descubrirá que, cuando lo necesite, no habrá un cable que cortar. Habrá miles. Repartidos en centros de datos de tres continentes.
#GuasábaraEditor
Título: El interruptor que nadie sabe dónde está
