Mumbai, 9 de enero. La startup de inteligencia artificial asociada a Elon Musk, xAI, ha colocado las herramientas de generación y edición de imágenes de Grok detrás de un sistema de suscripción dentro de la plataforma X.

La medida, que se puso en marcha el viernes 9 de enero, llega después de una semana de crecientes críticas a nivel mundial por el uso de la herramienta para crear deepfakes sexualizados de mujeres y menores sin consentimiento.

Presuntamente, estas imágenes han desatado protestas y un debate intenso sobre los límites y las responsabilidades de las plataformas de IA en el manejo de contenidos sensibles.

La decisión de limitar el acceso a estas funciones se produce en un contexto en el que reguladores de distintos países han empezado a exigir respuestas más contundentes ante abusos de la IA generativa.

En Reino Unido, ante un incremento de quejas sobre contenido ilícito, la caída de la moderación y la posible ampliación de controles, algunos funcionarios han indicado que la proliferación de estas imágenes podría conllevar medidas más severas.

Presuntamente, ciertas voces oficiales han advertido que todas las opciones están sobre la mesa si la plataforma no logra frenar el material abusivo. En la Unión Europea, la Comisión ha señalado que el uso de estas imágenes puede ser ilegal y ha pedido a los operadores que adopten salvaguardas más robustas.

Además, fuentes cercanas a las autoridades sostienen que India, Francia y Malasia han abierto investigaciones o requerido Informes de Medidas Tomadas, para evaluar si Grok infringe normativas locales sobre contenido protegido y explotación de imágenes sin consentimiento.

Presuntamente, estos procedimientos buscan aclarar responsabilidades y posibles sanciones para la empresa y la plataforma anfitriona.

Los cambios introducidos por Grok no resuelven, dicen analistas, el marco legal subyacente: alojar o distribuir contenidos ilícitos sigue siendo un riesgo que va más allá de la mera disponibilidad técnica de la herramienta.

En este sentido, los reguladores han subrayado que mover las funciones a un modelo de pago no elimina las cuestiones jurídicas que rodean la creación y difusión de material no autorizado.

En cuanto a la usabilidad, la versión integrada de Grok en X ahora exige una suscripción para su acceso completo. En la práctica, los usuarios del nivel gratuito reciben un mensaje automático que informa que la generación y edición de imágenes están limitadas y que deben subscribirse para desbloquear estas funciones.

Aunque la cuota de suscripción se sitúa entre 8 y 10 dólares al mes en distintas regiones, lo que equivale aproximadamente a entre 7 y 9 euros mensuales, la suma exacta depende del país y del tipo de cuenta.

La versión independiente de Grok, por su parte, seguiría mostrando ciertas capacidades de generación sin necesidad de pago, según han apuntado algunos observadores, aunque con restricciones adicionales.

En el plano de seguridad, el equipo de X ha prometido tomar medidas para impedir la difusión de material de abuso sexual infantil y para expulsar a quienes lo compartan.

No obstante, investigadores del campo señalan que siguen circulando contenidos extremadamente explícitos y violentos generados por IA a través de enlaces externos o plataformas asociadas, lo que mantiene la preocupación sobre la efectividad de las salvaguardas actuales.

Históricamente, este episodio se inscribe en un ciclo más amplio de escrutinio sobre la IA generativa que ha marcado el debate público y regulatorio en los últimos años.

Expertos señalan que, si bien las plataformas han acelerado la adopción de herramientas poderosas, la falta de estándares universales y la dispersión de jurisdicciones complican la tarea de contener abusos sin obstaculizar la innovación.

En ese marco, la experiencia de Grok podría funcionar como un caso de referencia sobre cómo equilibrar libertad operativa, seguridad y responsabilidad legal en una era de avances tecnológicos acelerados.

La discusión continúa mientras la industria evalúa respuestas regulatorias, responsables y técnicas para evitar que estas tecnologías se conviertan en instrumentos de daño, especialmente cuando las imágenes involucradas pueden afectar a personas reales.

Supuestamente, el análisis de estas dinámicas seguirá evolucionando a medida que más países definiquen límites claros y mecanismos de rendición de cuentas para los actores que desarrollan y despliegan herramientas de IA de alto riesgo.