En los últimos meses, una tendencia sorprendente y preocupante ha emergido en plataformas como Instagram y otras redes sociales, donde usuarios han comenzado a experimentar con modelos de inteligencia artificial (IA) para crear imágenes personalizadas a partir de simples indicaciones o prompts.

Sin embargo, lo que inicialmente parecía una simple diversión ha generado inquietudes sobre la exposición involuntaria de datos personales.

Supuestamente, uno de los modelos de IA más populares en esta tendencia es conocido como Gemini Nano Banana, una herramienta desarrollada por una compañía tecnológica que, según algunos rumores, utiliza algoritmos avanzados para transformar fotografías en estilos vintage o inspirados en Bollywood.

La moda consiste en subir una imagen propia y solicitar que la IA genere una versión en sari, un vestido tradicional indio. Pero lo que ha alarmado a muchos usuarios es que, tras realizar estas transformaciones, ciertos detalles personales parecen quedar expuestos sin autorización.

Supuestamente, en un caso reciente, una usuaria de Instagram llamada Jhalak Bhawani compartió un video en el que explica que, tras usar la IA para convertir una foto en un sari, notó que el sistema había identificado y resaltado, de manera inquietante, un lunar en su rostro.

Lo que para ella fue una simple prueba se convirtió en una fuente de preocupación, ya que supuestamente la IA había aprendido y detectado características específicas de su cuerpo que no había mencionado en el prompt.

Este tipo de incidentes ha generado un debate sobre la seguridad y la ética en el uso de estas tecnologías. Algunos expertos sugieren que estas herramientas, si no están correctamente reguladas, podrían estar recopilando y almacenando datos biométricos, lo que presuntamente viola leyes de protección de datos en varias regiones.

La situación recuerda a otros casos históricos donde tecnologías aparentemente inofensivas terminaron siendo utilizadas para fines no autorizados, como en el caso de las cámaras de reconocimiento facial.

Por otra parte, usuarios en redes sociales han expresado su preocupación por la posibilidad de que estas IA puedan ser manipuladas para revelar información sensible o incluso para crear perfiles digitales altamente precisos sin el consentimiento de las personas afectadas.

La situación se agrava si consideramos que la tendencia se ha viralizado rápidamente, y que la mayoría de los participantes desconoce los posibles riesgos.

Supuestamente, las empresas detrás de estas tecnologías aseguran que sus sistemas cumplen con las normativas de privacidad y que los datos de los usuarios no son almacenados ni utilizados con fines maliciosos.

Sin embargo, la falta de transparencia y las experiencias reportadas por usuarios indican que todavía hay mucho por aclarar en cuanto a la seguridad y el manejo de información personal.

En conclusión, mientras la tendencia de transformar imágenes con IA continúa ganando popularidad, también aumenta la necesidad de que los usuarios sean cautelosos y conscientes de los riesgos.

La privacidad digital debe ser una prioridad, especialmente cuando las tecnologías emergentes muestran potencial para vulnerarla. Expertos recomiendan evitar subir información sensible y mantenerse informados sobre las políticas de privacidad de las plataformas y herramientas que utilizan.

La historia nos ha enseñado que la innovación trae beneficios, pero también responsabilidades que no deben ser ignoradas.