El estado de Nueva York ha decidido tomar medidas importantes en lo que respecta al uso de la inteligencia artificial (IA) por sus agencias gubernamentales.

La semana pasada, la gobernadora Kathy Hochul firmó una nueva ley que tiene como objetivo garantizar que la IA no reemplace a los trabajadores humanos y que su uso sea supervisado adecuadamente.

Esta legislación obliga a las agencias estatales a realizar evaluaciones sobre cualquier software que utilice algoritmos, modelos computacionales o técnicas de IA. Los resultados de estas evaluaciones deberán ser presentados a la gobernadora y a los líderes legislativos de alto nivel.

Asimismo, se requerirá que se publiquen en línea, permitiendo así una mayor transparencia en el uso de estas tecnologías.

No es la primera vez que se legisla sobre el uso de nuevas tecnologías en el ámbito gubernamental.

A nivel mundial, el uso de la IA ha suscitado controversias debido a su rápida adopción en diversos sectores.

Críticos han expresado su preocupación por el riesgo que estas tecnologías podrían representar para el empleo, así como por cuestiones de privacidad y seguridad.

La nueva ley de Nueva York establece un salvaguardia clave: no se podrá tomar decisiones automáticas acerca de beneficios de desempleo o asistencia para el cuidado de niños sin la supervisión constante de un ser humano.

Esto es un aspecto fundamental, ya que asegura que las decisiones que afectan a la vida de las personas no se basen únicamente en algoritmos sin control humano.

Los legisladores, en especial el senador Kristen Gonzalez, quien patrocinó el proyecto de ley, han señalado que esta norma marca un avance significativo en la creación de límites en el uso de una tecnología que aún se encuentra en desarrollo y evolución.

La preocupación por las repercusiones de la IA no es infundada, ya que, a nivel global, múltiples estados y países han comenzado a legislar sobre su uso.

Además, se ha incrementado el número de iniciativas en otros estados de EE.UU. En mayo, Colorado propuso la ley Colorado AI Act que exige a los desarrolladores evitar sesgos en sistemas de IA de alto riesgo.

Mientras tanto, California ha impulsado varias iniciativas legislativas que estarán vigentes el próximo año, muchas de las cuales buscan prevenir la difusión de contenido engañoso.

Bajo la nueva ley, los empleados del estado están protegidos de la reducción de horas laborales o tareas debido a la IA, un tema que ha sido motivo de debate y que merece atención.

A medida que la tecnología avanza, es natural que surjan temores sobre su impacto en el empleo.

A nivel internacional, Canadá tampoco cuenta aún con un marco regulador federal sobre IA, aunque se están considerando leyes que podrían establecer ciertos estándares.

Recientemente, el gobierno canadiense anunció la creación del Instituto Canadiense de Seguridad en Inteligencia Artificial, cuyo propósito es promover investigaciones sobre la seguridad y desarrollo responsable de la IA.

En conclusión, la nueva legislación de Nueva York es un paso adelante en la regulación del uso de la inteligencia artificial en el sector público.

A medida que esta tecnología continúa evolucionando y siendo adoptada en otros ámbitos, es fundamental que los gobiernos establezcan pautas claras para asegurar que su implementación sea ética y no ponga en riesgo la seguridad laboral ni la privacidad de los ciudadanos.