Pontificia Universidad Católica del Perú
Taller de Derecho
dimensionmercantil.edm@gmail.com

Abogada por la Universidad de Lima con especialización en Solución de Controversias. Candidata a la maestría en Derecho de la Propiedad Intelectual y Tecnología de la Información en Trinity College Dublín, Irlanda. Con experiencia en Propiedad intelectual, Competencia Desleal y Derecho de Consumidor y estudios en Derecho de la Moda, Derechos de Autor y Derecho Publicitario. Autora de artículos relativos a la Propiedad Intelectual en revistas nacionales e internacionales.
Desde Turing y McCarthy, la Inteligencia Artificial (IA) se ha venido desarrollando a pasos agigantados de tal manera que las primigenias funciones asignadas a la IA como el cálculo y lógica, actualmente se han visto potenciadas por el machine learning que permite que una IA pueda llevar a cabo labores propias de los seres humanos tales como la resolución de problemas complejos, la recopilación de datos, la toma de decisiones, la creación de contenido, entre otros.
Es precisamente esta última habilidad la más comentada por todos los usuarios, los cuales mantienen una opinión ambivalente sobre la misma. En ese sentido, la discusión se basa en una suerte de hit or miss: si lo que hoy en día llaman “creatividad informática o computacional” es realmente beneficiosa o significa el declive de la impronta humana.
Volviendo al primer párrafo y a manera de breve explicación, el machine learning es un subcampo de la IA que consiste en algoritmos de entrenamiento que al procesar datos específicos y la experiencia recopilada, aprende a automatizar y construir modelos analíticos para realizar tareas cognitivas, a su vez tiene como subconjuntos las redes neuronales artificiales y las redes neuronales profundas o el deep learning. Este último es un elemento más avanzado que puede reconocer patrones complejos y hacer asociaciones de forma similar a los humanos como identificar elementos en una foto, reconocer una canción o elaborar piezas textuales. Dentro de las redes neuronales profundas encontramos la IA generativa (IAG) que es precisamente un modelo que permite que una IA sea creadora tomando como referencia los datos o instrucciones proporcionados (prompts) en la red incluso imitando las habilidades humanas de tal modo que dificulta la distinción entre un autor humano y una máquina.
En esa línea, tenemos herramientas virtuales como ChatGPT, DALL-E, Gemini, entre otros, que a través de la alimentación de prompts, pueden generar contenido a petición de un usuario, ya sea producir una imagen, canción, resumen o traducción (por mencionar algunas de las tantas funciones de las IAGs).
El hecho de que la principal fuente de “inspiración” de una IAG son las creaciones preexistentes en Internet, en su mayoría de autoría humana, ha levantado alertas dentro del gremio artístico en tanto consideran que las IAGs están haciendo uso no autorizado de sus obras causando una serie de perjuicios irreparables a estos.
Un caso reciente es Artistas v. Stability AI y Midjourney en California, Estados Unidos, donde se arguye que estas empresas utilizan copias comprimidas no autorizadas de las obras de los artistas para entrenar a sus programas de IAG. El contraargumento de las empresas es que el uso de estas obras se concurre dentro de los supuestos de fair use y no se estaría buscando perjudicar a los artistas en cuestión. En la actualidad, solamente una reclamación ha sido admitida judicialmente y se encuentra en proceso de resolución, mientras que las demás han sido desestimadas pues, bajo el criterio del juez, los artistas deben demostrar una similitud innegable entre sus obras y las imágenes generadas por la IA, además de que estas obran deben estar debidamente inscritas ante la autoridad competente.
Como es evidente, muchos artistas se sienten desprotegidos por la justicia al ver que las alegaciones sobre infracciones al derecho de autor contra empresas de IAGs son denegadas y progresivamente, el uso de sus obras para entrenar estos modelos se normaliza.
Esta es la principal razón por la cual desarrolladores han creado lo que se cree que es el remedio perfecto para esta problemática: programas que “envenenan” las IAGs introduciendo prompts que han corrompido a efectos de lograr manipular el modelo generativo distorsionando sus resultados y volviéndolo prácticamente inútil para los usuarios. Es así como los artistas incluyen prompts invisibles dentro de los pixeles de sus obras para que, una vez las IAGs recopilen los datos de estas obras, reproduzcan contenido no deseado, erróneo o impredecible, lo cual se denomina prompt-poisoning. Por ejemplo, una IAG envenenada puede generar la imagen de un dinosaurio cuando el usuario solicita la imagen de un perro, o de un florero cuando el usuario requiere la imagen de una cartera.
Así tenemos la pionera Glaze, una herramienta creada por profesionales de la Universidad de Chicago (a quienes se les llama los guardianes de la creatividad) que busca proteger a los artistas de la imitación de estilos de una IAG. Prácticamente, el programa funciona protegiendo las capas de estilo de cada artista, limitando la información a la que accederá la IAG. De este modo, cuando se solicite a una IAG generar obras en el estilo del artista afectado, el modelo no podrá imitarlo correctamente y, en su lugar, producirá obras en un estilo claramente diferente pues recurrirán a versiones más básicas.
Asimismo, con un enfoque más agresivo, tenemos Nightshade (también de los guardianes de la creatividad) que no busca proteger una capa en sí, si no inyectar prompts dañinos contenidos en una obra a la que IAG hace data scrapping, de modo de que estos afecten la funcionalidad y desincentivar que estos modelos se sigan entrenando con obras sin autorización.
Ahora, es innegable que existe una contraposición de índole intelectual sobre el uso de estas herramientas. Por un lado, según la Decisión 351 de la Comunidad Andina de Naciones, los artistas tienen derechos sobre sus obras que incluyen, no limitándose, el derecho de integridad que supone la prohibición de cualquier deformación, modificación, alteración o mutilación en una obra por un tercero, y el derecho patrimonial de recibir una remuneración económica por parte de terceros que usen la obra de forma consentida. Por otro lado, el fair use por parte de la IAG en tanto esta solamente lee y analiza las obras para auto-entrenarse en generar contenido, más no realiza un plagio o reproducción directa de estas.
Entonces, surge la interrogante: ¿quién es el villano de la situación? Si bien puede decirse que el avance de la tecnología generativa podría acarrear un daño colateral para los artistas, evidentemente no nos encontramos ante una cuestión fácil de responder. En líneas generales, se debe reconocer que las IAGs necesitan acceder a la información en línea para poder desempeñarse de una forma automatizada, y que la inyección de prompts en estas para proteger las obras de un scrapping no consentido afecta no solo al modelo, sino a los usuarios que disponen de estas IAGs pues el contenido que estos recibirán no será el deseado (incluso induciendolos en error); sin embargo, también se debe tener presente que la funcionalidad creadora de una IAG podría representar un peligro para el gremio artístico quienes son susceptibles de ser sustituidos por IAGs que, básicamente, generarían obras inspirándose en las del artista.
Actualmente, la IAG se enfrenta a un desafío urgente y significativo en materia de derechos de autor. Los modelos de IA son cada vez más sofisticados, lo que los hace capaces de replicar estilos artísticos y otras formas de propiedad intelectual sin el consentimiento de sus autores originales. El uso de herramientas como Glaze y Nightshade ayuda a proteger a los autores contra el uso indebido, pero también subraya la necesidad de marcos normativos y técnicos adecuados para proteger a los autores de forma efectiva. Es esencial que los legisladores, los especialistas en tecnología y la comunidad artística colaboren estrechamente para desarrollar una agenda de soluciones que equilibren la innovación tecnológica con el respeto y la protección de los derechos de autor.
Definitivamente, este tema abarca una variedad de matices y aspectos que demandan un examen más exhaustivo, y que a opinión de la autora, deberá ser abarcado en futuras discusiones a medida de que el panorama jurídico actual se desarrolle con mayor claridad.
Referencias
Banh, L., Strobel, G. Generative artificial intelligence. Electron Markets 33, 63 (2023). Visto en https://doi.org/10.1007/s12525-023-00680-1
Heikkila, M. MIT Technology Review. (Octubre, 2023). Visto en https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/
Shan, S., Ding, W., Wenger, E.., Hanocka, R., Zheng, H., Zhao, B. Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models. USENIX Security Symposium. Department of Computer Science, University of Chicago (2023). DOI: 10.1109/SP54263.2024.00207. Visto en https://doi.org/10.48550/arXiv.2302.04222
Shan, S., Ding, W., Passananti, J., Wu, S., Zheng, H., Zhao, B. Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models. IEEE Symposium on Security and Privacy (SP). Department of Computer Science, University of Chicago (2024). DOI: 10.1109/SP54263.2024.00207. Visto en https://people.cs.uchicago.edu/~ravenben/publications/pdf/nightshade-oakland24.pdf