Usuarios revelan que ChatGPT puede generar imágenes de tarjetas Aadhaar, desatando preocupaciones sobre la seguridad.
Mumbai, 4 de abril: La semana pasada, el modelo GPT-4o de OpenAI generó más de 700 millones de imágenes a solicitud de los usuarios de ChatGPT. Esta función de generación de imágenes basada en texto ha sido ampliamente utilizada, especialmente para crear imágenes inspiradas en el estilo de Studio Ghibli.
Sin embargo, recientemente, internautas comenzaron a compartir en redes sociales que habían creado imágenes de tarjetas Aadhaar utilizando ChatGPT. Lo sorprendente fue que el chatbot de inteligencia artificial generó fotos precisas de las personas, lo que encendió las alarmas entre los usuarios sobre los posibles peligros que representa esta herramienta de OpenAI.
Las redes sociales se inundaron de imágenes falsas de tarjetas Aadhaar generadas por GPT-4o, destacando detalles fotorealistas. Un usuario planteó la inquietante pregunta: "Lo interesante es, ¿de dónde obtuvo los datos de fotos de Aadhaar para su entrenamiento?" Las imágenes generadas por la IA parecían reales, con detalles faciales precisos y sin defectos evidentes.
No obstante, las reacciones de otros usuarios fueron diversas.
Aadit Palicha, cofundador y CEO de Zepto, comentó sobre la comparación entre las startups de India y China, subrayando la necesidad de construir empresas de Internet para consumidores en el país.
En un post, un usuario compartió una imagen de una tarjeta Aadhaar generada por ChatGPT y expresó: "Ok, así que ChatGPT puede crear imágenes de Aadhaar.
Eso no es lo interesante. Lo interesante es de dónde obtuvo los datos para entrenar".
Algunos usuarios de X (anteriormente Twitter) advertían que no se debía confiar ciegamente en lo que se ve en las redes sociales, afirmando que GPT no genera tarjetas Aadhaar y que incluso se niega a hacerlo si se le pide.
Otros afirmaron que la generación de imágenes de tarjetas Aadhaar y PAN por parte de ChatGPT representa un riesgo serio para la seguridad. Un usuario comentó: "ChatGPT está generando tarjetas Aadhaar y PAN falsas al instante, lo que es un riesgo de seguridad serio. Por eso, la IA debería ser regulada en cierto grado".
A pesar de las afirmaciones de algunos usuarios sobre la capacidad de ChatGPT para generar imágenes falsas de documentos oficiales como tarjetas Aadhaar, otros insistieron en que esto no es posible.
ChatGPT no utiliza modelos de terceros como DALL-E para la generación de imágenes; el GPT-4o crea imágenes directamente. Recientemente, Sam Altman, CEO de OpenAI, insinuó que se lanzará pronto una versión 2 de la generación de imágenes, y algunos usuarios han comenzado a recibirla.
Se espera que esta nueva versión ofrezca más detalles en comparación con la capacidad anterior.
ChatGPT tiene ciertas restricciones, como la incapacidad para generar imágenes fotorealistas de niños y figuras públicas menores de edad. Además, no puede crear imágenes que sean abusivas, odiosas, violentas o eróticas. Sin embargo, algunos usuarios también mencionaron que ChatGPT no pudo generar imágenes de tarjetas Aadhaar y les sugirieron visitar el sitio web de UIDAI para actualizar su información.
En medio de toda esta controversia, un usuario en X acotó: "Esto es totalmente falso. ChatGPT no genera tarjetas Aadhaar ni ningún otro tipo de identificación. No tiene acceso a datos personales ni documentos oficiales. Alguien probablemente hizo esto solo para crear controversia." Finalmente, el debate sobre la capacidad de la inteligencia artificial continúa, planteando serias preguntas sobre su regulación y el uso responsable de estas tecnologías.
