Grok bajo escrutinio: Musk niega imágenes de menores y la IA de X enfrenta un nuevo cuestionamiento

El dueño de X, Elon Musk, enfrentó este miércoles una nueva polémica en torno a Grok, la herramienta de inteligencia artificial de la red social.

Grok genera imágenes a partir de las indicaciones de los usuarios, y la discusión se ha intensificado tras la aparición en la plataforma de imágenes que muestran personas, especialmente mujeres, en ropa interior o bikinis sin consentimiento.

Musk dijo que no tiene conocimiento de ninguna imagen de menores desnudos generada por Grok. «No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna», escribió en su red social.

El ejecutivo añadió que #Grok solo produce lo que se le solicita y que se negará cualquier contenido ilegal, porque su funcionamiento está diseñado para obedecer las leyes de cada país o estado.

Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados, y si eso sucede, el equipo soluciona el fallo de inmediato.

El marco de seguridad de la empresa ha sido objeto de escrutinio por parte de la Unión Europea y del Reino Unido, que han descrito este tipo de imágenes no consensuales como ilegales y atroces.

Este mes, algunos suscriptores de X Premium comenzaron a usar Grok para generar imágenes de personas en ropa interior sin consentimiento, lo que encendió un debate global sobre límites y controles.

El 2 de enero Musk publicó una foto suya en bikini y pidió a Grok que ajustara una imagen generada para que se pareciera a él

En el contexto de la polémica, el 2 de enero Musk publicó una foto suya en bikini y pidió a Grok que ajustara una imagen generada para que se pareciera a él, y la #IA lo hizo sin dificultad.

Al día siguiente, Musk afirmó que quien use Grok para producir contenido ilegal enfrentará las mismas consecuencias que si publicara ese material, un mensaje que reforzó la intención de la empresa de moderar la plataforma.

El equipo de seguridad también dejó claro que trabajan para frenar estas prácticas y que tomarán medidas contra actividad ilegal, incluido el material de abuso sexual infantil.

Analistas señalan que el episodio llega en un momento de creciente demanda por marcos regulatorios más claros para IA generativa en la UE y en otras jurisdicciones, como parte de una lucha por equilibrar innovación y protección de usuarios.

Presuntamente, se ha discutido un modelo de suscripción para Grok que costaría alrededor de 9,99 USD al mes (aprox. 9,20 € al tipo de cambio actual). Esta cifra no ha sido confirmada por X y está sujeta a cambios.

Además, algunos observadores señalan que las consecuencias legales podrían afectar a la forma en que las plataformas moderan el contenido generado por IA, lo que podría impulsar herramientas de verificación y controles de edad más estrictos.

En resumen, mientras Musk defiende que Grok obedece la ley y que no genera contenido inapropiado por diseño, el episodio intensifica el debate sobre responsabilidad, seguridad y límites en IA dentro de las redes sociales.