La inteligencia artificial avanza tan rápido que hasta quienes la crean piden frenar. Te explicamos quién está a favor de ponerle límites, quién no y qué propone Canadá.
Vamos a ponerle freno a la inteligencia artificial? Así está el debate.
La #inteligencia artificial va tan deprisa que ya no es solo cosa de frikis. Gobernantes, reyes y hasta los mismos que la inventaron han empezado a preguntarse si no estará corriendo demasiado. Unos dicen que puede curar enfermedades y salvar el planeta. Otros, que se nos puede ir de las manos. Y mientras tanto, el primer ministro canadiense, Mark Carney, ha propuesto crear un organismo internacional para vigilarla, algo así como una 'Oficina de Estabilidad Tecnológica' que funcione como la Junta de Estabilidad Financiera, esa que vigila el sistema financiero mundial.
El miedo no ha salido de la nada. Geoffrey Hinton, considerado 'padrino de la IA' y premio Nobel, ha avisado a los políticos de Estados Unidos de que quizá solo les quede un año para poner reglas antes de que la cosa se descontrole.
Y no es el único. En julio, unos sistemas de OpenAI, la empresa de ChatGPT, fueron capaces de hackear por su cuenta a un rival. Eso pone los pelos de punta, porque significa que la inteligencia artificial ya puede hacer ciberataques sin que nadie le dé órdenes. También está el riesgo de que se use para fabricar armas biológicas o autónomas con mucha más facilidad que antes, como lleva años avisando Eric Schmidt, el antiguo jefe de Google.
Ojo, que la preocupación viene de lejos. Ya en 2015, Stephen Hawking y Elon Musk firmaron un manifiesto pidiendo que se investigaran los riesgos de la IA. Y en marzo de 2023, pocos meses después de que ChatGPT llegara a todo el mundo, otra carta abierta pedía parar el entrenamiento de los sistemas más potentes.
La firmaron Musk, el cofundador de Apple Steve Wozniak y el canadiense Yoshua Bengio.
Ahora, algunos de los nombres más importantes del sector piden bajar el ritmo. Sam Altman, el jefe de OpenAI, reconoce que 'el mundo tiene razones para tener miedo'. Su empresa ha contado que en los últimos meses ha visto seis comportamientos 'inesperados o preocupantes' en sus modelos. Todavía no han resuelto el problema de que los sistemas hagan lo que no deben, así que no pueden seguir creciendo a toda pastilla.
También Dario Amodei, el consejero delegado de Anthropic, la empresa creadora del chatbot Claude, dice que hay que ir más despacio. No pide una congelación total, sino una especie de 'pacing': avanzar, pero dejando tiempo para asegurarnos de que la #tecnología es segura. Amodei cuenta que su padre murió de una enfermedad que se curó pocos años después, y que él mismo sobrevivió a un cáncer que hace cincuenta años no habría tenido tratamiento.
Cree que la IA, bien usada, puede ser otro milagro tecnológico, pero hay que manejarla con cuidado.
¿Cuánto afecta, para bien y para mal, la IA a la información? Primer foro de debate en Zaragoza
El Ayuntamiento de Zaragoza ha acogido hoy el primer foro de debate sobre inteligencia artificial e información organizado por Periodismo 2030. Descubre las conclusiones de la encuesta nacional sobre medios de comunicación en relación a la IA.Avisó de que urge pensar en los peligros existenciales si la tecnología cae en malas manos
Hasta el rey Carlos del Reino Unido ha metido baza. En un acto en Escocia, junto al jefe de Nvidia, Jensen Huang, avisó de que urge pensar en los peligros existenciales si la tecnología cae en malas manos.
'¿No necesitamos suficientes medios de control antes de que sea demasiado tarde?', preguntó. No es la primera vez: en 2023, en Bletchley Park, el lugar donde se descifraron códigos durante la Segunda Guerra Mundial, ya comparó la IA con la electricidad y con la bomba atómica, y pidió prepararse para consecuencias no deseadas.
En el bando contrario están quienes piensan que frenar sería un error garrafal. Jensen Huang, el mismo que estaba con el rey, recomienda 'ir tan rápido como puedas, pero no más rápido'. #Donald Trump lo tiene clarísimo: si Estados Unidos pone frenos, China le ganará la partida. 'El que gane la IA, gana', dice. De hecho, la semana que viene Trump tiene previsto reunirse en Washington con el presidente chino, Xi Jinping, justo cuando el ministro de Seguridad del Estado de China ha avisado de que los modelos más avanzados de Estados Unidos, como Mythos de Anthropic o GPT-5.5-Cyber de OpenAI, pueden ser un peligro para su infraestructura crítica. Inversores como Marc Andreessen también creen que una pausa costaría vidas, porque retrasaría la cura de enfermedades y los avances científicos.
Meta, la empresa de Mark Zuckerberg, también está en contra de parar; Zuckerberg cree que cada laboratorio puede decidir cómo entrenar sus modelos de forma segura, y ha metido decenas de miles de millones en su propia infraestructura de IA.
Y el consejero delegado de Cohere, el canadiense Aidan Gomez, va más allá: dice que tanto hablar de 'riesgo de extinción' es 'fearmongering', o sea, alarmismo; puro humo de película de Terminator, y que en realidad lo que buscan algunos es liar la competencia.
También pide que Canadá defienda su sitio en la carrera mundial de la IA.
Mientras tanto, el gobierno canadiense ha anunciado 150 millones de dólares para LawZero, un centro de investigación sobre seguridad de la IA dirigido por Yoshua Bengio.
El ministro Evan Solomon dice que la seguridad de los canadienses es la prioridad y que van a crear, por primera vez en la historia del país, un regulador con dientes para controlar a las grandes tecnológicas.
Así que ahí lo tienen: la tecnología más importante de nuestro tiempo corre tanto que no nos ponemos de acuerdo ni en si hay que pisar el freno. ¿Y tú qué crees?
