Tech

La IA agarró las ‘mañas’ humanas: Crea desinformación

Las imágenes creadas con ayuda de herramientas de inteligencia artificial pueden ser imposibles de rastrear, lo que dificulta distinguir entre lo que es real y lo que es IA.

Varios visitantes observan una obra de la exposición "Unsupervised" ("Sin supervisión") del artista Refik Anadol, las obras de la exhibición fueron generadas por IA y pretenden ser una interpretación que invite a la reflexión de la prestigiosa colección del museo neoyorquino. (John Minchillo/AP)

Innumerables artistas se han inspirado en “La noche estrellada” desde que Vincent Van Gogh pintó el paisaje arremolinado en 1889.

Ahora, sistemas de Inteligencia Artificial (IA) hacen lo mismo y se entrenan con una vasta colección de obras de arte digitalizadas para producir imágenes nuevas que se pueden generar en segundos desde una app para celular.

Las imágenes generadas por herramientas como DALL-E, Midjourney y Stable Diffusion pueden lucir extrañas y de otro mundo, pero también cada vez más realistas y personalizables: pida un “búho pavo real al estilo de Van Gogh” y se generará algo que podría ser similar a lo que usted imaginó.

Pero mientras Van Gogh y otros grandes pintores que murieron hace mucho tiempo no se quejan, algunos artistas y fotógrafos vivos comienzan a contraatacar a las empresas de software de IA que crean imágenes derivadas de sus obras.


Dos nuevas demandas —una esta semana de Getty Images, el gigante de la fotografía con sede en Seattle— apuntan hacia servicios de generación de imágenes populares, porque supuestamente copian y procesan millones de imágenes protegidas por derechos de autor sin contar con una licencia.

Getty dijo que ha entablado procedimientos judiciales en el Tribunal Superior de Justicia de Londres contra Stability AI —el fabricante de Stable Diffusion—, acusándola de infringir los derechos de propiedad intelectual en beneficio de los intereses comerciales de la startup con sede en Londres.

Otra demanda presentada el viernes en un tribunal federal en San Francisco describe a los generadores de imágenes con IA como “herramientas de collage del siglo XXI que violan los derechos de millones de artistas”. La demanda, presentada por tres artistas en nombre de otros como ellos, también nombra a Stability AI como demandado, junto con la startup generadora de imágenes Midjourney, con sede en San Francisco, y la galería en línea DeviantArt.

La demanda sostiene que las imágenes generadas por IA “compiten en el mercado con las imágenes originales. Hasta ahora, cuando un comprador busca una imagen nueva ‘al estilo’ de un artista determinado, debe pagar para encargar o licenciar una imagen original de ese artista”.


Las empresas que brindan servicios de generación de imágenes suelen cobrar una tarifa a los usuarios. Por ejemplo, después de una prueba gratuita de Midjourney a través de la app de chateo Discord, los usuarios deben comprar una suscripción que comienza en 10 dólares mensuales o hasta 600 por año para membresías corporativas. La startup OpenAI también cobra por el uso de DALL-E, su generador de imágenes, y StabilityAI ofrece un servicio de pago llamado DreamStudio.

Stability AI respondió en un comunicado que “Cualquiera que crea que esto no es uso justo no comprende la tecnología y malinterpreta la ley”.

En una entrevista en diciembre con The Associated Press, antes de las demandas, el director ejecutivo de Midjourney, David Holz, describió su servicio de suscripción de creación de imágenes como “una especie de motor de búsqueda” que extrae una amplia gama de imágenes de todo Internet. Comparó las preocupaciones sobre el derecho de autor y esta tecnología con la forma en que dichas leyes se han adaptado a la creatividad humana.

“¿Puede una persona mirar la imagen hecha por otra persona y aprender de ella y hacer una imagen similar?”, preguntó Holz. “Obviamente, le está permitido a las personas, y si no lo estuviera, entonces destruiría toda la industria del arte profesional, y probablemente también la industria no profesional. En la medida en que las IA aprenden como las personas, es más o menos lo mismo, y si las imágenes resultan distintas, entonces parece que está bien”.

Las disputas de derechos de autor marcan el comienzo de un violento contragolpe contra una nueva generación de herramientas impresionantes —algunas de ellas presentadas apenas el año pasado— que pueden generar imágenes nuevas, texto comprensible y código de computadora a pedido.

Herramientas de IA y la desinformación

También plantean preocupaciones más amplias sobre la propensión de las herramientas de IA para amplificar la desinformación o causar otros daños. Para los generadores de imágenes con IA, eso incluye la creación de imágenes sexuales no consensuadas.

Algunos sistemas producen imágenes fotorrealistas que pueden ser imposibles de rastrear, lo que dificulta distinguir entre lo que es real y lo que es IA. Y aunque la mayoría cuenta con algunas salvaguardas incorporadas para bloquear contenido ofensivo o dañino, los expertos dicen que son insuficientes y temen que sea solo cuestión de tiempo para que las personas utilicen estas herramientas para difundir desinformación y erosionar aún más la confianza pública.

“Una vez que perdemos la capacidad de diferenciar qué es real y qué es falso, todo se volverá falso de repente, porque pierdes la confianza en cualquier cosa y en todo”, advierte Wael Abd-Almageed, profesor de Ingeniería Eléctrica e Informática en la Universidad del Sur de California.

La IA también puede equivocarse, como al generar pies y dedos o detalles en las orejas que a veces pueden revelar que no son reales, pero no hay un patrón establecido en el cual fijarse para detectar la diferencia. Para colmo, esas pistas visuales también se pueden editar.

Algunas imágenes generadas que viajan en las redes sociales, y que potencialmente se vuelven virales, pueden ser difíciles de desacreditar porque no se pueden rastrear hasta una herramienta específica o fuente de datos, explica Chirag Shah, profesor en la Facultad de Información de la Universidad de Washington, quien utiliza estas herramientas para investigación.

“Puedes hacer algunas conjeturas si tienes suficiente experiencia trabajando con estas herramientas”, añade Shah. “Pero más allá de eso, no hay una manera fácil o científica de hacer esto realmente”.

Y mientras ocurren estas reacciones negativas, hay muchas personas que están adoptando las nuevas herramientas con IA y la creatividad que desatan. Las búsquedas en Midjourney, por ejemplo, muestran que los usuarios curiosos usan la herramienta como pasatiempo para crear paisajes, retratos y arte intrincados.

Hay muchas cosas que generan temor, pero “¿qué más podemos hacer con ellas?”, preguntó esta semana el artista Refik Anadol en el Foro Económico Mundial en Davos, Suiza, donde mostró una exhibición de su trabajo generado con IA.

En el Museo de Arte Moderno de Nueva York, Anadol diseñó la exposición “Unsupervised” (“Sin supervisión”), que se basa en las obras de arte que ya tiene la prestigiosa colección del museo —incluida “La noche estrellada”— para alimentar una instalación digital masiva que genera animaciones de colores y formas fascinantes en el vestíbulo del museo.

La instalación está “cambiando constantemente, evolucionando y soñando con 138 mil obras de arte antiguas en el archivo del MoMA”, dijo Anadol. “Desde Van Gogh hasta Picasso y Kandinsky, artistas increíbles e inspiradores que definieron y fueron pioneros en diferentes técnicas existen en estas obras de arte, en este mundo de ensueño de la IA”.

La pintora Erin Hanson, cuyos paisajes impresionistas son tan populares y fáciles de encontrar en línea que ha visto su influencia en las imágenes producidas con IA, dice que no le preocupa su prolífica producción propia, con la que gana 3 millones de dólares al año.

Sin embargo, sí está preocupada por la comunidad artística en su conjunto.

“El artista original necesita ser reconocido de alguna manera o compensado”, agrega Hanson. “De eso tratan las leyes de derecho de autor. Y si los artistas no son reconocidos, será difícil para los artistas ganarse la vida en el futuro”.

También lee: