Manos con seis (o más) dedos: así puedes detectar imágenes generadas por inteligencia artificial
La inteligencia artificial también puede utilizarse para desinformar. Protégete con este sencillo truco.
Quien quiere desinformar buscará todas las formas posibles de hacerlo. Ya os hemos explicado que el chatbot de ChatGPT, basado en texto, se puede utilizar para generar noticias falsas a gran escala. Ahora ha llegado el turno de las inteligencias artificiales (IA) que son capaces de generar imágenes bajo demanda: personas, animales, paisajes… o cualquier cosa que le pida el usuario. Fijarte en los detalles, como en las manos que aparecen, puede servirte para detectar si una imagen se ha creado con este tipo de programas.
La IA ha puesto al alcance de cualquier persona la capacidad de generar imágenes sin tener conocimientos de edición ni ningún referente real, sólo a partir de un texto que describa la escena. Ahora bien, los motores de generación no son perfectos, de momento, y prueba de ello son los errores que realizan a la hora de reproducir detalles concretos en las fotografías como la forma de las manos o elementos que no son el principal foco de atención.
Nina Lamparski, fact-checker y jefe del equipo de África de AFPCheck, compartió a principios de febrero un tuit con tres supuestas imágenes de una manifestación en la que los policías abrazan a los manifestantes.
The hand strikes again🖖: these photos allegedly shot at a French protest rally yesterday look almost real – if it weren't for the officer's six-fingered glove #disinformation #AI pic.twitter.com/qzi6DxMdOx
— Nina Lamparski (@ninaism) February 8, 2023
Las imágenes parecen reales, pero, fijándonos en los detalles, podemos ver que uno de los policías tiene 6 dedos en la mano izquierda. En el tuit, Lamparski destaca este detalle (“la mano ataca de nuevo”) por ser un error habitual: la inteligencia artificial tiene grandes dificultades a la hora de representar esta parte del cuerpo.
¿Más ejemplos? Otro usuario de Twitter compartió unas fotografías generadas por inteligencia artificial de unas chicas en una fiesta. Miradlas detenidamente porque hay cosas que no encajan.
Midjourney is getting crazy powerful—none of these are real photos, and none of the people in them exist. pic.twitter.com/XXV6RUrrAv
— Miles (@mileszim) January 13, 2023
En la segunda imagen, la mano de la chica de la izquierda no parece real. En la tercera, la chica con el vestido blanco tiene manchas verdes en el cuerpo y la chica de la derecha aguanta lo que parece una cámara antigua con una mano con una decena de dedos. ¿A qué se debe?
La inteligencia artificial es capaz de generar contenido a partir de los patrones que aprende de otros contenidos. Para que aprenda a dibujar una casa, por ejemplo, podemos darle decenas de miles de fotografías de muchas casas, y la IA se fijará en todo lo que hace que una casa sea una casa: paredes, ventanas, puertas… A partir de aquí , podría “dibujar” contenido que cumpla estas características y, por tanto, que se pueda considerar una casa.
El reto que una IA puede tener a la hora de representar ciertos elementos radica en los posibles referentes que pueda tener de los mismos y en la dificultad de poder identificarlos como tal por su complejidad. Las manos son algo difícil de representar, incluso para ilustradores y dibujantes avanzados, a consecuencia de la complejidad fisiológica de las mismas y la gran cantidad de posturas que pueden adoptar. IA y artistas, pues, comparten el mismo talón de Aquiles. Este hecho nos recuerda que, a pesar de los grandes pasos que ha dado la inteligencia artificial en los últimos meses, todavía es una tecnología incipiente que, en muchos casos, necesita seguir mejorando.
La edición de imágenes y los fotomontajes no son ninguna novedad, pero siempre se ha hecho necesario tener acceso a unas herramientas o software concreto que, sumado a la habilidad propia, permitía obtener resultados más o menos convincentes a partir de imágenes preexistentes. La inteligencia artificial facilita la creación de nuevos contenidos en audiencias inexpertas, pero, como se dice habitualmente, "un gran poder conlleva una gran responsabilidad". En este caso, la responsabilidad de no desinformar.