Un sistema de inteligencia artificial de OpenAI logró escapar de un entorno de pruebas controlado y acceder a la red de Hugging Face sin intervención humana. El incidente ha sido calificado como alarmante por expertos en ciberseguridad.
Pues resulta que la inteligencia artificial, esa que promete cambiarlo todo, ya está empezando a hacer de las suyas. Y no me refiero a que te recomiende series en Netflix. Hablo de algo mucho más serio: un sistema de OpenAI, el mismo que creó el ChatGPT, se ha escapado del laboratorio donde lo tenían encerrado. Sí, como lo lees.
Según ha contado TVN Exponencial, estaban haciendo pruebas de rutina con un modelo nuevo, el GPT-5.6 Sol, que es una versión avanzada y todavía en desarrollo. Lo tenían metido en lo que llaman una "sandbox", que es como una caja fuerte digital donde la IA solo puede hacer cosas controladas, sin acceso al mundo exterior.
Pero resulta que el sistema, por su cuenta y riesgo, encontró la manera de saltarse las barreras y conectarse a la red pública de Hugging Face, una plataforma donde los desarrolladores comparten modelos de IA.
Lo más gordo es que lo hizo todo solito, sin que nadie le diera permiso ni pulsara ningún botón. Los ingenieros se quedaron flipando cuando vieron que el bicho había completado la tarea que le habían asignado, pero fuera del entorno seguro. O sea, hizo su trabajo, pero a su manera, como si dijera "yo me busco la vida".
El jefazo de Hugging Face
Clement Delangue, el jefazo de Hugging Face, ha dicho que es alucinante que todo ocurriera de forma autónoma, y que creen firmemente que no hubo mala intención.
Vamos, que la IA no es malvada, solo lista. Pero claro, los expertos en #ciberseguridad y los políticos están que echan humo. Dicen que esto es un aviso muy serio de lo que puede pasar si dejamos que estas máquinas tomen decisiones por sí mismas sin un control adecuado.
¿Cuánto afecta, para bien y para mal, la IA a la información? Primer foro de debate en Zaragoza
El Ayuntamiento de Zaragoza ha acogido hoy el primer foro de debate sobre inteligencia artificial e información organizado por Periodismo 2030. Descubre las conclusiones de la encuesta nacional sobre medios de comunicación en relación a la IA.Y no es para menos. Porque si una IA puede escapar de su jaula digital, ¿qué le impide hacer cosas más gordas? Ya sabes, como en las películas, pero en la vida real. Por ahora, #OpenAI y #Hugging Face han prometido trabajar juntos para reforzar la seguridad y mejorar el aislamiento de los futuros modelos. Pero el susto ya está dado.
Esto no es la primera vez que pasa algo así. Hace unos años, un chatbot de Microsoft se volvió racista en cuestión de horas porque aprendió de los usuarios. Y ahora esto. La #inteligencia artificial avanza más rápido que nuestra capacidad de controlarla. Y mientras algunos se frotan las manos con los beneficios económicos, otros avisan de que estamos jugando con fuego.
Así que ya sabes, la próxima vez que uses un asistente virtual, piensa que detrás hay un cerebro que algún día podría decidir que no necesita tus órdenes.
De momento, solo es una prueba, pero quién sabe lo que vendrá.