Un informe reciente encargado por el Departamento de Estado de EE. UU. está alertando de que los gobiernos se están quedando sin tiempo para implementar salvaguardias exhaustivas sobre el desarrollo y la regulación de la inteligencia artificial avanzada, y que el futuro de la especie humana podría estar en peligro.

Investigador de IA advierte que los gobiernos se están quedando sin tiempo para implementar medidas de seguridad exhaustivas.

Naciones, incluida Canadá, se están quedando sin tiempo para diseñar e implementar salvaguardias completas sobre el desarrollo y despliegue de sistemas de inteligencia artificial avanzada, advirtió esta semana una de las principales empresas especializadas en seguridad de la inteligencia artificial.

En un escenario catastrófico, los sistemas de IA superhumanos en busca de poder podrían escapar al control de sus creadores y representar una amenaza de nivel de extinción para la humanidad, escribieron los investigadores de IA en un informe encargado por el Departamento de Estado de EE. UU. titulado Defensa en Profundidad: Un Plan de Acción para Aumentar la Seguridad de la IA Avanzada.

La empresa con sede en EE. UU. Gladstone AI, que aboga por el desarrollo responsable de una inteligencia artificial segura, produjo el informe.

Sus advertencias se centran en dos categorías principales.

El primero se refiere al riesgo de que los desarrolladores de IA pierdan el control de un sistema de inteligencia general artificial (AGI, por sus siglas en inglés). Los autores definen a AGI como un sistema de IA que puede superar a los humanos en todos los ámbitos económicos y estratégicamente relevantes.

Aunque hasta la fecha no existen sistemas de AGI, muchos investigadores de IA creen que no están lejos.

En un escenario catastrófico, los autores advierten que esta pérdida de control podría representar una amenaza de nivel de extinción para la especie humana.

El segundo riesgo citado en el informe es el uso potencial de sistemas de IA avanzados como armas.

El informe propone una serie de acciones urgentes que las naciones, comenzando por Estados Unidos, deberían tomar para protegerse contra estos riesgos catastróficos, entre ellos, controles de exportación, regulaciones y leyes de desarrollo de IA responsables.

Actualmente, Canadá no tiene un marco regulatorio específico para la IA. El gobierno introdujo la Ley de Inteligencia Artificial y Datos (AIDA) como parte del Proyecto de Ley C-27 en noviembre de 2021, con el objetivo de sentar las bases para el diseño, desarrollo y despliegue responsables de sistemas de IA en Canadá. El proyecto de ley ha pasado la segunda lectura en la Cámara de los Comunes y actualmente está siendo estudiado por el comité de industria y tecnología.

¿Cuánto afecta, para bien y para mal, la IA a la información? Primer foro de debate en Zaragoza

El Ayuntamiento de Zaragoza ha acogido hoy el primer foro de debate sobre inteligencia artificial e información organizado por Periodismo 2030. Descubre las conclusiones de la encuesta nacional sobre medios de comunicación en relación a la IA.

El gobierno federal también introdujo en 2023 el Código de Conducta Voluntario sobre el Desarrollo y la Gestión Responsable de Sistemas Avanzados de Generación de IA, un código diseñado para proporcionar temporalmente a las empresas canadienses normas comunes hasta que AIDA entre en vigencia.

En una rueda de prensa el viernes, el ministro de Industria, François-Philippe Champagne, fue preguntado por qué, dada la gravedad de las advertencias en el informe Gladstone AI, sigue confiando en que el proyecto de ley de IA del gobierno está equipado para regular la tecnología que avanza rápidamente.

La miembro del Parlamento Conservador Michelle Rempel Garner dice que el proyecto de ley de inteligencia artificial propuesto por el gobierno está obsoleto e inadecuado.

En una entrevista con CBC News, la MP conservadora Michelle Rempel Garner dijo que la caracterización de Bill C-27 por parte de Champagne era una tontería.

"Eso no es lo que han estado diciendo los expertos en sus testimonios en el comité y simplemente no es la realidad", dijo Rempel Garner, quien copreside el Caucus Parlamentario sobre Tecnología Emergente y ha estado escribiendo sobre la necesidad de que el gobierno actúe más rápido en relación con la IA. "C-27 está obsoleto", añadió. "AIDA fue presentado antes de que OpenAI, una de las principales empresas de IA del mundo, presentara ChatGPT en 2022. El chatbot de IA representó una impresionante evolución en la tecnología de IA. "El hecho de que el gobierno no haya abordado sustancialmente el hecho de que presentaron este proyecto de ley antes de que se produjera un cambio fundamental en la tecnología... es un poco como intentar regular a los escribas después de que la prensa se haya distribuido ampliamente", dijo Rempel Garner.

"Es probable que el gobierno tenga que volver a empezar desde cero". En diciembre de 2023, Harris de Gladstone AI dijo al comité de industria y tecnología de la Cámara de los Comunes que AIDA necesita ser modificado.

"Para cuando AIDA entre en vigencia, el año será 2026. Los sistemas de IA de vanguardia habrán sido escalados cientos a miles de veces más allá de lo que vemos hoy", dijo Harris a los diputados.

"AIDA debe ser diseñado teniendo en cuenta ese nivel de riesgo".