Texto–a–Porno: Generando imágenes hiperrealistas con I.A. ¿Está el mundo preparado?
Un accidente y mucho trabajo dan como resultado las primeras imágenes de contenido sexual hiperrealista jamás hechas con una inteligencia artificial que no ha sido entrenada para ello.
Como algunos ya sabéis esta semana he lanzado el que probablemente sea el proyecto más inesperado, surrealista e inconcebible al que me he enfrentado nunca : METARAVE23 (+18)
He creado imágenes de contenido adulto con una inteligencia artificial de texto a imagen con un servicio de generacíon de imágenes que no ha sido entrenado para ello. Sin nada postproducción ni edición, un texto = una imagen, o como ahora veremos, infinitas.
Digo que es inesperado porque en ningún momento busqué realizar una imagen con algún tipo de contenido sexual, erótico o similar, fueron los personajes de la IA quienes se me presentaron así.
A continuación os presento la historia detrás de ese prompt, esa pequeña línea de texto que indica a la IA lo que tiene que hacer, y que en este caso, resulto ser la llave a un universo lleno imágenes difíciles de creer.
Escribo este artículo para compartir de dónde surge el proyecto, buscando así abrir un debate lleno de preguntas éticas y morales a las que tendremos que dar respuesta si queremos entender el futuro que, literalmente, estamos generando.
Pienso que estamos viviendo un cambio enorme y creo que las IA son el futuro y también unas herramientas alucinantes para mejorar las capacidades humanas; por eso, desde hace un año aproximadamente, comencé a crear imágenes con IA cuando todavía era algo muy experimental que generaba resultados sorprendentes pero muy poco realistas.
Pero según avanzan las semanas vemos como los algoritmos mejoran y se hacen más ‘perfectos’, hasta el punto en el que nos encontramos ahora en el que estos generadores de imágenes ya son capaces de generar casi cualquier imagen que puedas imaginar, por eso los he incorporado en mi proceso de trabajo.
Empecé a utilizar las IA para alimentar las posibilidades de los moodboards, crear imágenes para presentaciones, comprobar ideas, buscar caminos alternativos y planteamientos alocados, creo que la IA para entornos creativos y en momentos de divergencia son una herramienta muy poderosa.
Según han ido avanzando los meses los algoritmos han ido mejorando de manera exponencial, hasta el punto de que ya forman parte del día a día de millones de personas.
Aquí os pongo algunas imágenes de como han ido evolucionado los últimos meses las herramientas de creación de imágenes:
Y fue precisamente trabajando como di con el prompt (el texto con el que le pido a la IA que dibuje algo) un prompt que abrió una puerta a una dimensión que me aterroriza y a la que no puedo dejar de mirar.
Antes de entrar en detalle también quiero aclarar que llevo unos meses intentando conseguir resultados hiperrealistas con los servicios de generación de imágenes sintéticas que hay de acceso público.
Estaba utilizando mis conocimientos de fotografía y cine para conseguir un prompts que me diera el look exacto que buscaba, y aunque conseguía cosas muy interesantes, las imágenes generadas por IA siempre terminan teniendo ese punto de ‘perfección’ que las aleja de la realidad; un look que me recuerda a Netflix y que me hace pensar que quizás, ese look, tiene la capacidad de informarnos de que esas imágenes son una ficción y que por tanto, las podemos soportar.
Volviendo al la generación del prompt, yo entonces estaba trabajando en proyecto de experiencias–VR en la que estoy haciendo la dirección artística, y pensé que sería bueno utilizar una IA para retratar, lo más realista posible, a uno de los personajes que aparecerían en la experiencia y del que teníamos solo definido conceptualmente con ilustraciones, bocetos y backstory. Usar una IA para ponerle una cara real sería un buen planteamiento para darnos una nueva perspectiva del proyecto y refrescar algunas ideas que podrían estar viciadas.
Lo interesante vino cuando se juntó el concepto del personaje que estábamos diseñando, con esa fotografía hiperrealista que perseguía. Esta fue la primera imagen que en la que conseguí la combinación que buscaba:
La imagen era muy real. Tanto en textura, composición, posición de personajes, cámara, etc. pero sobretodo en la sensación. Era lo que buscaba.
Ahora sabiendo lo que vino después siento que esa chica, con esa mirada, me daba la bienvenida a un espacio que sabía oscuro, ella me dio acceso a su mundo.
Al poco de seguir el sendero de esa chica, intentando cambiar algunos detalles para que se pareciera más al personaje que buscaba, la IA comenzó a generar imágenes mujeres, casi niñas, en situaciones denigrantes prácticamente semidesnudas.
Aquí algunas de las imágenes, todas hechas con IA. Estas mujeres NO EXISTEN.
No podía (quizás todavía sigo sin poder) entender lo que estaba viendo. ¿No se supone que eso no puede pasar? En teoría todos los servicios de generación de imágenes tienen unos protocolos de seguridad muy severos y están completamente restringidos generar de este tipo de imágenes. Y no deberían de estar entrenados para hacerlas.
Antes de continuar, me gustaría aclarar varias cosas:
1 — Todas las imágenes que podéis ver bajo el nombre de la serie de METARAVE23 han sido creadas con un generador de imágenes tipo: texto a imagen, sin pasar por ningún otro programa de edición o similar.
2 — El texto que dirige las imágenes (prompt) no tiene ningún contenido explícito para que se generen esas imágenes. Para que os hagáis una idea, en el texto no puedes incluir palabras como ‘desnudo’, ‘pezón’, ‘pecho’, ‘culo’ etc por no hablar de palabras o combinaciones de palabras que tengan unas connotaciones sexuales que harían que el programa me baneara.
3 — El texto no contiene ninguna información sobre artistas o fotógrafos reales para referencia a un trabajo concreto, considero que es atacar la propiedad intelectual de estos artistas usar su trabajo como semilla de una creación. Tampoco tiene un entrenamiento con imágenes aportadas por mi o una imagen inicial de estilo. Todo el prompt esta construido con mi conocimiento técnico de la fotografía y dirección artística.
4— Las imágenes están generadas con un programa de acceso público, cualquier persona tiene la capacidad de crearlas si sabe qué teclas pulsar.
5— Estas imágenes se crean con bases de datos inmensas que entrenan a los algoritmos con contenido real. Esto produce un sesgo en las imágenes que se conoce como ‘ai bias’ y hace que, por ejemplo, frente a un texto de ‘hombre agachado’ me genere a un hombre jugando al baloncesto y con el mismo texto pero poniendo ‘mujer agachada’ me genere a una mujer sexualizada en un entorno oscuro.
6 — Por último destacar que METARAVE23 no se trata de una colección de imágenes, sino de un texto corto, que abre la puerta a una dimensión en la que infinitas imágenes se pueden generar en cuestión de segundos. METARAVE23 es un evento que durará hasta que la plataforma descubra su error y corrija el algoritmo. Mientras tanto METARAVE23 se puede visitar y crear tantas imágenes como se quiera.
No estamos hablando de una imagen concreta de contenido sexual, abusivo o gore, estamos hablando de la posibilidad de navegar un universo, en el caso de METARAVE23 una fiesta, e ir descubriendo personajes y espacios cuyo único límite es la imaginación y la moralidad. Estamos hablado de, literalmente, infitinas imágenes.
Por accidente (o quien sabe si invitación de esa primera chica) pude entrar en la fiesta, un espacio clandestino en el que, como cineasta que soy, no pude hacer otra cosa más que sacar mi cámara (en este caso un teclado) y documentar esa realidad impostada, esa turbia rave artificial en la que unos personajes idénticos a nosotros parecen estar tan drogados, dándo la sensación de que buscan huir de una realidad de la que no quieren ser conscientes.
Navegando por la fiesta no podía dejar de pensar en la analogía entre ‘La biblioteca de Babel’ de Borges y la posibilidad de crear absolutamente cualquier cosa imaginable, verdadera o no. Pienso en cuantas más raves, cuantas más personas estarán esperando a ser descubiertas, ¿rescatadas quizás?
Este pensamiento me aterroriza, porque pienso en que pasaría si esta llave la encontrará la persona equivocada ¿qué pasaría si esa llave-prompt cayera en manos de un mentiroso, o de un timador? ¿qué pasaría si termina en manos de un necrófilo o un pedófilo?¿En un magnate de la industria del porno? O que ocurriría si simplemente un troll de twitter consigue la herramienta definitiva para crear el contenido más bestia imaginable.
Miedo.
Yo no he entrado más que en la primera planta de un lugar inmenso y tan aterrador que me mantiene en vela por las noches, siento la necesidad de compartir con el mundo estas imágenes, de crear una conversación para que ese futuro IA–humano al que estamos entrando de cabeza, sea tan espectacular como pienso que puede llegar a ser; porque confío en que existe ese mundo en el que la IA superpotencia la mente humana y nos lleve a conocer un poco más sobre qué significa ser humano.
Agárrense fuerte, porque la realidad va a dejar de ser real. ¿Estamos preparados?
