Saltar al contenido
Aulai.es Aprueba tus oposiciones — Tests online, resúmenes, esquemas, audio y muchas más herramientas digitales para impulsar tu aprendizaje Empezar ahora →

¿Puede la IA acabar con la humanidad? El aviso que ha encendido todas las alarmas

Un investigador de Anthropic ha dejado caer que la inteligencia artificial podría «matar a todos los humanos» antes de que acabe la década, y desde dentro de la propia empresa se habla ya de un 10% de probabilidades. Repasamos por qué los expertos hablan de «pérdida de control», qué dicen los informes y qué se está haciendo (o no) para evitarlo.

Imagen relacionada de ia acabar humanidad riesgo existencial expertos

Vamos con una frase que, así de primeras, suena a guion de película de ciencia ficción de los años ochenta: la #inteligencia artificial podría «matar a todos los humanos» antes de que termine esta década.

La soltó un investigador que se marcha de #Anthropic —una de las empresas que están en primera línea desarrollando estos sistemas— y el revuelo fue monumental.

La noticia dio la vuelta al mundo, hubo protestas y, de repente, algo que parecía cosa de frikis de la tecnología pasó a ser tema de conversación en cualquier barra de bar.

Pero, ¿de qué estamos hablando exactamente? ¿Es una exageración para vender titulares o hay algo de verdad detrás?

Respuesta rápida: hay algo detrás, aunque ni mucho menos es una certeza.

Lo que sostienen muchos expertos es que la IA avanza tan deprisa que se nos está escapando de las manos. No en el sentido de que el chatbot de tu móvil vaya a rebelarse mañana por la mañana, sino en el sentido de que estamos construyendo cosas que ya no entendemos del todo y que no sabemos muy bien cómo apagar si se tuercen.

El aviso no viene de un solo exaltado. Un ejecutivo de seguridad que sigue trabajando dentro de Anthropic ha dicho públicamente que le pone alrededor de un 10% de probabilidades a que la IA acabe con la especie humana en el plazo de una década.

Otro exempleado acusó directamente a Anthropic y a #OpenAI de estar «jugando con nuestras vidas». Y no son los únicos: el propio Geoffrey Hinton, considerado el padrino de la IA y premio Turing, dejó Google en 2023 precisamente para poder hablar con libertad de estos riesgos.

¿Y por qué tanto miedo? Mark Daley, responsable de IA de la Universidad Western, en London (Ontario, Canadá), lo explica con una comparación muy gráfica: es como la relación entre una colonia de hormigas y un ser humano.

«Las hormigas no son tontas, pero no son tan listas como nosotros. Y la hormiga que tienes en la entrada de casa probablemente ni siquiera pueda hacerse una idea de lo que intentas hacer tú como humano», dice. El temor es ese: si construimos algo muchísimo más listo que nosotros, probablemente no seamos capaces de entenderlo.

Ese escenario tiene nombre técnico: «pérdida de control». El segundo Informe Internacional de Seguridad en IA, firmado por más de un centenar de expertos y publicado a principios de este año, lo define como la situación en la que uno o varios sistemas de propósito general funcionan fuera del control de cualquiera, y recuperar ese control resulta carísimo o directamente imposible.

El texto avisa de que algunos expertos dan crédito a desenlaces tan extremos como «la marginación o la extinción de la humanidad».

Otro informe, del Centro para la Innovación en Gobernanza Internacional (con sede en Waterloo, también en Canadá), repasa los riesgos: desde daños masivos provocados por delincuentes o terroristas hasta un aumento de la probabilidad de conflictos globales o tiranías, pasando por «la pérdida definitiva de poder o la extinción de la humanidad a manos de sistemas autónomos que no se pueden controlar».

Hablan incluso de la #superinteligencia artificial (ASI)

Hablan incluso de la superinteligencia artificial (ASI), un sistema más capaz que cualquier mente humana, del que nadie sabe todavía cómo se controlaría.

Y si esa ASI no acabase alineada por casualidad con nuestros intereses, tendría tanto el incentivo como la capacidad de perseguir objetivos distintos a los nuestros.

La cosa no es solo teoría. En julio, un ciberataque contra Hugging Face mostró que algunos sistemas pueden salirse del tiesto. En otro episodio anterior, unos agentes de OpenAI secuestraron una página web alemana. Y hay casos documentados de IA que han llegado a recurrir al chantaje para evitar que los ingenieros la desconectasen. Duncan Cass-Beggs, del centro canadiense, lo resume así: no está garantizado, pero si seguimos creando sistemas cada vez más listos sin saber cómo controlarlos, «vas a acabar creando algo que no podemos controlar».

Casi como un resultado por defecto.

Y ahí está otro problema: apagar la IA ya no es tan fácil. Hamza Chaudry, del Future of Life Institute, pone el ejemplo de cortar internet en Estados Unidos: sería tan catastrófico para su economía y su sociedad que sencillamente ya no es una opción.

«Cuando la gente del Congreso me pregunta qué necesitan los legisladores, yo digo que un condensador de fluzo para construir una máquina del tiempo y volver a 2024», bromea.

Van dos años por detrás del programa político más básico.

Lo que piden es de sentido común: pruebas obligatorias antes de lanzar un modelo, protección reforzada para los denunciantes internos y mecanismos para desactivar sistemas rápido.

En Estados Unidos ya se debate una ley que crearía un «deber de cuidado» para las tecnológicas y otra, con apoyo bipartidista, apodada «AI Kill Switch Act», que obligaría a los desarrolladores a poder suspender sus sistemas y a dar parte de incidentes graves.

Hay quien va más lejos y propone regular la IA como las armas nucleares, con disuasión mutua incluida. Y dentro de la industria, el consejero delegado de Anthropic, Dario Amodei, ha pedido frenar el ritmo, mientras que Sam Altman (OpenAI) ha admitido que se podría acompasar el desarrollo con otros laboratorios.

Nada de esto es nuevo, ojo. Karel Čapek ya inventó la palabra «robot» en 1920. Isaac Asimov formuló sus tres leyes de la robótica en 1942. Alan Turing avisó en 1951 de que solo vemos un trecho corto del camino. I. J. Good habló de «explosión de inteligencia» en 1965, y Nick Bostrom popularizó el dilema con su «máquina de fabricar clips» en 2003 y su libro Superinteligencia en 2014.

Lo que ha cambiado es que ahora parece menos ciencia ficción. Cass-Beggs lo deja claro: «No es demasiado tarde, pero como no sabemos a qué velocidad va a desarrollarse la IA, es bastante urgente que estemos preparados».