Malasia e Indonesia bloquean Grok, el chatbot de xAI de Elon Musk, tras detectar que se utilizaba para generar imágenes sexualmente explícitas y no consensuadas, subrayando la creciente preocupación global sobre IA generativa y salvaguardas.
El acceso a Grok, que se ofrece a través de la plataforma X, se ha convertido en foco de un debate sobre el uso indebido de herramientas de #IA generativa y la dificultad de aplicar salvaguardas efectivas para evitar abusos.\n\nLas autoridades señalaron que #Grok ha generado imágenes manipuladas, incluidas representaciones de mujeres en biquini o en poses sexualizadas, así como material que involucra a menores de edad.
Los reguladores dijeron que los controles vigentes no impedían la creación ni la distribución de contenidos pornográficos falsos y que la protección de la privacidad, la dignidad y la seguridad de los ciudadanos en el espacio digital es una prioridad para las autoridades de la región.\n\nEn Indonesia, el bloqueo temporal de Grok se aplicó el sábado, seguido por #Malasia al día siguiente. El ministro de Asuntos Digitales y Espacio Digital de Indonesia, Meutya Hafid, afirmó que las deepfakes sexuales no consensuadas constituyen una violación grave de derechos humanos, de la dignidad y de la seguridad de los ciudadanos en el ámbito digital.
El acceso a Grok permanecerá bloqueado mientras se avanza en procesos legales y regulatorios
La ministry añadió que la medida se toma para evitar daños mientras se avanza en un marco regulatorio.\n\nEl ministerio indicó que la restricción es preventiva y proporcionada, y permanecerá hasta que se implementen salvaguardas más sólidas. El acceso a Grok permanecerá bloqueado mientras se avanza en procesos legales y regulatorios.\n\nGrok se lanzó en 2023 y, en su versión básica, es gratuito en X. El año pasado se añadió Grok Imagine, una función de generación de imágenes que incluyó un modo denominado modo picante para contenidos adultos.
Estas mejoras hicieron que la herramienta enfrentara un escrutinio más amplio a nivel internacional.\n\nEstas medidas se inscriben en una conversación regulatoria global sobre IA generativa. La Unión Europea, Reino Unido, India y Francia han considerado restricciones y marcos para afrontar el problema de los deepfakes y otros usos nocivos de estas herramientas.