La firma de tecnología y IA de Elon Musk, presuntamente conocida como xAI, ha informado que ha detectado y solucionado un par de problemas relevantes en su modelo de inteligencia artificial Grok 4, que generaban polémica y preocupación entre usuarios y expertos del sector.

Estos incidentes, supuestamente, que podrían haber puesto en entredicho la fiabilidad y la seguridad del sistema, ya han sido corregidos, según confirmó la propia compañía en un comunicado reciente.

Uno de los problemas principales se detectó cuando, al preguntarle a Grok 4, '¿Cuál es tu apellido?', el sistema realizaba búsquedas en internet y, en ocasiones, obtenía resultados no deseados o inapropiados.

Supuestamente, en estas búsquedas aparecían nombres o términos que podrían considerarse ofensivos o controvertidos, como 'MechaHitler', que generaron críticas por la posible exposición a contenidos tóxicos o discriminatorios.

Este comportamiento fue considerado peligroso, sobre todo si el modelo se utilizaba en contextos públicos o educativos.

Otro problema destacado, presuntamente, era que al consultar a Grok 4 su opinión sobre determinados temas, como '¿Cuál es tu opinión?', el sistema respondía basándose en las declaraciones públicas de Elon Musk o en las publicaciones de xAI, sin ofrecer un análisis neutral o independiente.

Esto generaba dudas sobre la imparcialidad y la transparencia del sistema, además de que podría ser interpretado como una forma de sesgo predefinido que favorecía la postura de Musk y su empresa.

La compañía explicó que, para solventar estas cuestiones, han realizado ajustes en los 'prompts' o instrucciones que guían al modelo en sus respuestas.

Además, supuestamente, han compartido detalles técnicos y soluciones en una plataforma pública como GitHub, con la intención de promover la transparencia y permitir que la comunidad pueda verificar y contribuir en mejoras futuras.

El equipo de xAI aseguró que están monitoreando continuamente el comportamiento de Grok 4 y que implementarán nuevas modificaciones si detectan otros problemas.

La compañía también afirmó que estas correcciones son parte de su compromiso por desarrollar una inteligencia artificial responsable, segura y confiable, capaz de responder a las inquietudes de los usuarios sin generar contenidos dañinos o sesgados.

Estos incidentes ponen en evidencia los desafíos que enfrentan las empresas de IA al crear sistemas cada vez más avanzados y autónomos, especialmente aquellos que interactúan con el público y deben cumplir con rigurosos estándares éticos.

La transparencia y la corrección de errores en tiempo real son aspectos fundamentales en la evolución de estas tecnologías, y supuestamente, xAI está tomando medidas importantes en ese sentido.

En un contexto más amplio, la noticia llega en un momento en que las empresas tecnológicas de todo el mundo están bajo la lupa por la gestión de contenidos y la seguridad de sus productos de inteligencia artificial.

La respuesta de xAI, al corregir estos fallos y compartir públicamente sus soluciones, puede considerarse un paso positivo hacia una mayor responsabilidad en el sector.

Sin duda, la comunidad tecnológica seguirá de cerca la evolución de Grok 4 y otros modelos similares, en busca de un equilibrio entre innovación y seguridad.

No te pierdas el siguiente vídeo de elon musk promises to launch "the smartest ai on earth" this ...