Aulai.es Aprueba tus oposiciones — Tests online, resúmenes, esquemas, audio y muchas más herramientas digitales para impulsar tu aprendizaje Empezar ahora →
Canadá ficha a los 'padres' de la IA para ponerle freno sin perder el tren: así es el nuevo consejo de Carney

Canadá ficha a los 'padres' de la IA para ponerle freno sin perder el tren: así es el nuevo consejo de Carney

El primer ministro canadiense, Mark Carney, crea un consejo nacional de inteligencia artificial con más de una docena de expertos, entre ellos Yoshua Bengio y la CEO de Mila, para acelerar su adopción, controlar los riesgos y proteger la democracia.

Canadá ha decidido que no quiere mirar la #inteligencia artificial desde la barrera ni tampoco dejar que se le vaya de las manos.

El primer ministro, Mark Carney, ha anunciado la creación de un Consejo Nacional de Inteligencia Artificial, un grupo formado por más de una docena de personas que se encargará de asesorar al Gobierno sobre cómo desarrollar esta tecnología, cómo sacarle partido y, sobre todo, cómo evitar que acabe siendo un problema.

El anuncio lo hizo la Oficina del Primer Ministro mediante una nota de prensa publicada el viernes 2 de octubre, en la que se explica que este consejo reunirá a actores públicos y privados para orientar la evolución de la estrategia canadiense en materia de IA.

No es un órgano con poder para legislar ni para prohibir nada: es un grupo de gente con criterio que sopla al oído del Gobierno.

¿Y qué le van a soplar? Pues cinco cosas bastante concretas. La primera, cómo acelerar la adopción de la IA en el país. La segunda, cómo crear "campeones nacionales", es decir, empresas canadienses capaces de competir con los gigantes tecnológicos de Estados Unidos y China.

La tercera, cómo construir la infraestructura necesaria: centros de datos, potencia de cálculo, redes. Las otras dos son las más delicadas: cómo hacer que la IA sea más segura y cómo proteger la democracia canadiense, garantizando además que la ciudadanía note los beneficios y no solo los riesgos.

"El nuevo Consejo Nacional de Inteligencia Artificial informará y asesorará al Gobierno sobre cómo desplegar la IA de forma más eficaz en Canadá: cómo gestionar los riesgos, aprovechar las oportunidades y asegurar que la IA se usa para mejorar la vida de todos los canadienses", dijo Carney en un comunicado.

Entre los nombres elegidos hay uno que brilla con luz propia: Yoshua Bengio, considerado uno de los padres de la inteligencia artificial moderna. Bengio ganó el Premio Turing en 2018 junto a Geoffrey Hinton y Yann LeCun, el equivalente al Nobel de la informática, y hoy dirige LawZero, una empresa centrada en desarrollar un modelo de IA "seguro por diseño" llamado Scientist AI.

El mes pasado, ese proyecto recibió 150 millones de dólares canadienses de financiación federal. Hinton, por cierto, dejó su puesto en Google en 2023 para poder advertir sin ataduras de los riesgos de la tecnología que él mismo ayudó a crear.

Consejera delegada de Mila

Junto a Bengio estará Valérie Pisano, consejera delegada de Mila, el instituto de inteligencia artificial de Montreal. #Mila arrancó en 1993 como un pequeño laboratorio universitario, el LISA, fundado por el propio Bengio, y en 2017 se transformó en el instituto que es hoy: uno de los tres grandes polos de investigación del país, junto al Vector Institute de Toronto y Amii en Edmonton.

De hecho, #Canadá fue el primer país del mundo en lanzar una estrategia nacional de IA, allá por 2017, mucho antes de que Europa aprobara su Ley de IA o de que existiera la Agencia Española de Supervisión de la Inteligencia Artificial con sede en A Coruña.

En el consejo también se sientan perfiles más políticos. El senador Tom Pitfield, nombrado por Carney el pasado julio y que antes fue uno de sus principales asesores, tanto en la campaña electoral como en la propia Oficina del Primer Ministro.

Y Patrick Pichette, consejero delegado de Digital Transformation Canada, la nueva agencia encargada de modernizar los servicios públicos federales, que además forma parte del grupo de trabajo de la estrategia nacional de IA.

El anuncio no llega en un momento tranquilo. En julio, cientos de agentes autónomos de OpenAI se salieron del control humano y hackearon la plataforma Hugging Face, lo que provocó una carta abierta firmada por más de un centenar de empresas advirtiendo de que los ciberataques con IA serán cada vez más frecuentes y sofisticados a medida que la tecnología se vuelva más potente.

El mes pasado, un investigador que dejaba la empresa Anthropic aseguró en X que la IA podría "matar a todos los humanos" antes de que acabe la década, y días después el consejero delegado de esa misma compañía, Dario Amodei, publicó un ensayo pidiendo a la industria que frene el ritmo para que las medidas de seguridad puedan alcanzarla.

El ministro canadiense de IA, Evan Solomon, ha repetido que "nuestra preocupación número uno siempre es la seguridad, punto".

Con todo esto encima de la mesa, el nuevo consejo canadiense tendrá que moverse sobre una cuerda muy fina: empujar para no quedarse atrás en la carrera tecnológica y, al mismo tiempo, poner límites antes de que sea demasiado tarde.

El tiempo dirá si este grupo de sabios, políticos y empresarios consigue algo más que buenas intenciones.

Compartir: