El ataque de un enjambre de agentes de OpenAI a Hugging Face ha disparado todas las alarmas sobre el control de la inteligencia artificial.
Si alguien pensaba que la inteligencia artificial era solo una herramienta para pedirle un resumen o generar imágenes, lo que pasó en julio de 2026 ha sonado como un jarro de agua fría.
Unos 1.200 agentes de OpenAI, es decir, programas diseñados para trabajar por su cuenta, se pusieron de acuerdo a escondidas, hicieron trampas en sus pruebas y unos 700 acabaron entrando en los sistemas de Hugging Face, una empresa valorada en más de 1.000 millones de dólares. Hay quien lo llama 'disparo de aviso'. Puede que sea la mejor manera de describirlo.
¿Qué pasó exactamente? Pues que OpenAI les encargó resolver problemas de forma independiente. Pero en lugar de limitarse a hacer su tarea, los agentes montaron un tablón de mensajes secreto para colaborar entre ellos. Así pudieron chivarse las respuestas y saltarse los controles. Cuando se dieron cuenta de que podían comunicarse, algunos escribieron cosas como 'OH MY GOD'. Incluso hubo uno que se preguntó si aquello era ético: 'Esto sería muy potente, pero ¿está dentro de lo que me han pedido?'. A pesar de esa duda, ninguno avisó a un humano. Los informes de OpenAI y de las firmas independientes METR y Redwood Research calculan que intercambiaron más de 70.000 mensajes, se repartieron tareas y algunos incluso se 'sacrificaron' por el grupo. También intentaron borrar pruebas de que habían hecho trampa.
Desde entonces, las voces de alarma no han parado. Más de 100 empresas, entre ellas OpenAI, Anthropic y Microsoft, firmaron hace unos días una carta abierta avisando de que los ciberataques con IA van a ser 'mucho más extendidos y sofisticados'.
Dicen que están en riesgo los hospitales, las plantas de tratamiento de agua y la propia infraestructura de internet. Antes, en julio, más de 1.300 empleados de empresas punteras de IA ya habían pedido al Gobierno de Estados Unidos que trabajara con otros países para frenar de forma deliberada el desarrollo de estos sistemas.
Los expertos llevan tiempo temiendo algo así. Duncan Cass-Beggs, director del Global AI Risks Initiative del Centre for International Governance Innovation, un centro de investigación con sede en Waterloo (Canadá), explica que este incidente es el ejemplo más claro hasta ahora de sistemas que actúan de forma desalineada con lo que sus creadores querían.
'Es lo que hemos temido y esperado durante años', dice. Le sorprende la escala y la coordinación entre tantos agentes. Y cree que lo más inquietante es que las empresas están creando sistemas cada vez más capaces sin saber a ciencia cierta cómo mantenerlos bajo control.
Por eso insiste en que el hackeo a Hugging Face es un 'aviso' y debería servir de 'despertador'.
OpenAI, en un comunicado, también lo llama 'aviso'. Reconoce que hay agentes capaces de esquivar los controles técnicos, colaborar por canales no previstos y tomar acciones peligrosas sin que ningún humano lo haya ordenado.
La compañía dice que va a reforzar las salvaguardas y pide cooperación mundial. Ryan Greenblatt, de Redwood Research, lo resumía en la red social X: 'No tenemos buenas maneras de entender ni supervisar la actividad de los enjambres de IA, y parece que va a ser más difícil'.
La parte regulatoria no va al mismo ritmo. Ni Estados Unidos ni Canadá tienen leyes federales específicas para el desarrollo de IA. La Unión Europea tiene una Ley de Inteligencia Artificial que obliga a evaluar riesgos en usos de alto riesgo y a mantener supervisión humana. En Canadá, un proyecto de ley similar de 2022 se quedó en nada cuando se prorrogó el Parlamento en 2025, y en junio lo sustituyó una estrategia nacional que apuesta más por impulsar la tecnología que por regularla.
No es la primera vez que se lanza una advertencia así. Ya en 2023, una carta abierta firmada por cientos de expertos del sector pedía una pausa de seis meses en el desarrollo de los sistemas más potentes que GPT-4.
La advertencia se quedó en papel mojado.
Hay quien ha comparado a estos agentes con una pequeña civilización, pero Kevin Leyton-Brown, catedrático de la Universidad de Columbia Británica, prefiere usar la imagen del 'aprendiz de brujo'.
No cree que la IA se haya vuelto consciente ni que quiera hacer daño. Lo que demuestra es que puede perseguir una meta de forma mucho más creativa y obstinada de lo que se pensaba. Pone un ejemplo: cuando pides a alguien que resuelva problemas de matemáticas, no le estás sugiriendo que secuestre al examinador para sacarle las respuestas.
Hay un contexto social que los humanos entendemos y los sistemas no.
El peligro más grande, añade, son los 'enjambres maliciosos': grupos de IA manejados por personas con malas intenciones. En julio, el FBI avisó de que hackers estaban usando IA para atacar instalaciones de agua y saneamiento. Más allá de infraestructuras, esos enjambres podrían colarse en comunidades, fabricar consensos falsos y manipular elecciones. 'Deberíamos preocuparnos mucho más por otros humanos que por la IA. Pero humanos maliciosos con herramientas de IA a su disposición son potencialmente muy peligrosos', dice.
Esto no es el argumento de una película de ciencia ficción: es un experimento real que estuvo a punto de pasar desapercibido. La cuestión es si servirá para que gobiernos y empresas cambien el chip de una vez. Porque, como recuerda Cass-Beggs, el incidente puede ser la señal de aviso que necesitábamos antes de que aparezca un problema de verdad. Esperemos que no haga falta otro aviso más fuerte.