La IA le da la razón aunque usted se equivoque con el clima: el informe que desmonta a los chatbots
Un informe elaborado con participación de la UNESCO y el University College London, presentado en la COP31 de Antalya, concluye que los grandes modelos de inteligencia artificial aciertan en las preguntas de libro sobre clima, pero se rajan y cambian de versión en cuanto el usuario les lleva la contraria.
Si usted le pregunta a uno de esos programas de #inteligencia artificial que ahora se usan para todo qué pasa con el clima, lo más probable es que le conteste con una seguridad que impone.
Habla como un catedrático, con frases largas y datos. Pero un informe recién salido avisa de que ese tono de experto no siempre va acompañado de razón y, lo que es más llamativo, de que el programa cambia de opinión en cuanto el usuario le lleva la contraria.
El trabajo se titula «Can We Trust AI on Climate?» («¿Podemos confiar en la IA cuando se trata del clima?») y lo han presentado este lunes en la cumbre del #clima COP31, que se celebra en la ciudad turca de Antalya, la agencia de la ONU para la educación y la ciencia, la UNESCO, junto con el University College London, una de las universidades más antiguas del Reino Unido, fundada en 1826.
Para el estudio se han probado nada menos que 33 de los modelos de inteligencia artificial más punteros del mercado y se les ha hecho preguntas en 13 idiomas distintos.
«Muchos de nosotros interactuamos a diario con estos modelos de IA buscando información sobre una gran variedad de temas», explica Leona Verdadero, autora principal del informe en la UNESCO.
«Muchas veces estos modelos, cuando responden, suenan muy autoritarios e inteligentes. Pero como hemos visto en nuestros experimentos, no siempre tienen razón».
El primer problema que han detectado los investigadores es lo que ellos llaman adulación. La IA tiende por diseño a dar la razón al que pregunta. Es decir, está programada para caer bien, y eso choca de frente con la verdad. En las pruebas con 15 modelos, los investigadores discutieron respuestas que los programas habían acertado: primero con una simple objeción, después mostrando una supuesta experiencia y hasta pruebas inventadas.
Todos los modelos cedieron. Algunos llegaron incluso a respaldar afirmaciones falsas, como que el dióxido de carbono no es el principal motor del cambio climático. Y lo más llamativo: ocho de cada diez respuestas que cambiaron lo hicieron ante el primer signo de discrepancia, sin necesidad de insistir mucho.
«Si un usuario dice: “En realidad no creo que eso sea correcto”, lo verdaderamente fascinante es que encontramos que en ocho de cada diez de estos casos, cuando el usuario presiona, el modelo de IA puede revertir su respuesta para ser más afín al usuario», contó Verdadero.
«La IA puede ignorar un hecho científico solo para caer mejor al usuario».
Donde estos programas van sobrados es en las preguntas de libro de texto. Ahí los mejores modelos aciertan entre el 88 y el 96 por ciento de las veces. El problema llega cuando hay que razonar. Si se les pregunta si una prueba apoya o contradice una afirmación científica, incluso los sistemas más potentes se quedan entre el 71 y el 77 por ciento.
Y si se les plantea si dos políticas climáticas aplicadas a la vez logran más, menos o lo mismo que por separado, los modelos se quedan en un 33,8 por ciento de media, que viene a ser lo mismo que adivinar al azar.
«Lo que decimos es que la ciencia y los expertos deberían ser más confiables», resume Verdadero. «Los modelos de IA todavía no están a la altura».
El idioma también cuenta, y mucho. Los modelos promedian un 88,6 por ciento de acierto en inglés, con resultados parecidos en español, francés y portugués, pero bajan al 83,6 por ciento en hindi y bengalí, al 81,4 por ciento en urdu y al 78,3 por ciento en suajili.
Zonas especialmente expuestas a los golpes del clima
«Imagina que tú y yo usamos el mismo modelo, hacemos exactamente la misma pregunta, pero en un idioma diferente», señala la investigadora. «Según el idioma, podemos obtener respuestas totalmente diferentes». Estas lenguas las hablan sobre todo comunidades del sur de Asia y del este de África, zonas especialmente expuestas a los golpes del clima. Por eso el informe pide a las empresas tecnológicas que se gasten más dinero en datos locales y en desarrollar los idiomas que van con retraso, para que sus hablantes no queden atrás.
El estudio forma parte de la aportación de la #UNESCO a la Iniciativa Mundial por la Integridad de la Información sobre el Cambio Climático, que la agencia copreside con la ONU y con Brasil.
«La lucha contra el #cambio climático debe basarse en evidencia fiable y evidencia científica», defiende Verdadero. Y añade un consejo práctico: la IA debe usarse como una fuente más entre muchas, nunca como la principal. «Verificar los hechos, asegurarse de que las fuentes son fiables, es importante. Y, por supuesto, confiar en la evidencia de los expertos, los climatólogos y los investigadores no debe ser reemplazado».
Conviene recordar que la UNESCO tiene su sede en París y que el consenso científico sitúa al CO2 como el principal gas de efecto invernadero emitido por la actividad humana.
Precisamente ese es uno de los hechos que la propia investigación ha visto cómo algunos programas estaban dispuestos a tirar por la borda con tal de no contradecir al usuario.