En Kuala Lumpur y Yakarta, Malasia e Indonesia han bloqueado Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, tras constatar que se estaba utilizando para generar imágenes sexualmente explícitas y no consensuadas.

El acceso a Grok, que se ofrece a través de la plataforma X, se ha convertido en foco de un debate sobre el uso indebido de herramientas de IA generativa y la dificultad de aplicar salvaguardas efectivas para evitar abusos.\n\nLas autoridades señalaron que Grok ha generado imágenes manipuladas, incluidas representaciones de mujeres en biquini o en poses sexualizadas, así como material que involucra a menores de edad.

Los reguladores dijeron que los controles vigentes no impedían la creación ni la distribución de contenidos pornográficos falsos y que la protección de la privacidad, la dignidad y la seguridad de los ciudadanos en el espacio digital es una prioridad para las autoridades de la región.\n\nEn Indonesia, el bloqueo temporal de Grok se aplicó el sábado, seguido por Malasia al día siguiente. El ministro de Asuntos Digitales y Espacio Digital de Indonesia, Meutya Hafid, afirmó que las deepfakes sexuales no consensuadas constituyen una violación grave de derechos humanos, de la dignidad y de la seguridad de los ciudadanos en el ámbito digital.

La ministry añadió que la medida se toma para evitar daños mientras se avanza en un marco regulatorio.\n\nEl ministerio indicó que la restricción es preventiva y proporcionada, y permanecerá hasta que se implementen salvaguardas más sólidas. El acceso a Grok permanecerá bloqueado mientras se avanza en procesos legales y regulatorios.\n\nGrok se lanzó en 2023 y, en su versión básica, es gratuito en X. El año pasado se añadió Grok Imagine, una función de generación de imágenes que incluyó un modo denominado modo picante para contenidos adultos.

Estas mejoras hicieron que la herramienta enfrentara un escrutinio más amplio a nivel internacional.\n\nEstas medidas se inscriben en una conversación regulatoria global sobre IA generativa. La Unión Europea, Reino Unido, India y Francia han considerado restricciones y marcos para afrontar el problema de los deepfakes y otros usos nocivos de estas herramientas.

En la región, la presión por salvaguardar derechos de autor, privacidad y seguridad de menores ha acelerado la adopción de normas más exigentes.\n\nLa noticia llega en un momento en el que Grok, la semana pasada, redujo la generación de imágenes y la edición a usuarios de pago, tras la reacción mundial frente a deepfakes sexualizados.\n\nAnalistas señalan que el fenómeno refleja una tendencia hacia una mayor supervisión y que no se resolverá con un único bloqueo. Supuestamente, algunos observadores señalan que podría haber intentos de replicar estas medidas en otras plataformas de IA en distintas regiones.\n