(La autora es Profesora Contratada Doctora de Derecho civil UAM (acreditada a TU) y miembro del equipo de dirección del CIPI - UAM)

No es la primera vez -y, posiblemente, tampoco será la última- que en este blog hablamos de la postura adoptada por la United States Copyright Office -en adelante, USCO- ante las solicitudes de registro de resultados generados por sistemas de inteligencia artificial. Ya lo hicimos aquí en relación con el caso “A Recent Entrance to Paradise”; aquí, en referencia al caso “Zayra of the Dawn”; y aquí cuando hablamos del caso “SURYAST”.

También hemos dado cuenta de la resolución de la USCO “Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence”, conocida como la “AI Registration Guidance” (88 Fed. Reg. 16,190, 16,192), publicada el 16 de marzo de 2023, que es accesible a través de su página web y comentada en esta entrada del blog.

De acuerdo con los datos de este registro público, desde la publicación de la guía de 2023 se han registrado cientos de obras que incorporan material generado por IA, siendo que el registro -la protección por el copyright- únicamente cubre la contribución realizada por un autor humano a la obra. Entre los comentaristas que enviaron aportaciones a la USCO se encuentran productores musicales y audiovisuales, que afirman emplear sistemas de IA como parte de su proceso creativo, para desarrollar ritmos o mezclar pistas musicales, así como para corregir colores, agudizar detalles de efectos especiales o desenfocar, eliminar objetos grabados o modificar la apariencia física para incrementar o reducir la edad de los actores. Asimismo, los comentaristas reconocen el uso habitual de sistemas de IA en la fase inicial del proceso creativo, como parte de la tarea de búsqueda de lluvia de ideas o borrador.

En esta entrada, nos centraremos en la Parte II del Report on Copyright and Artificial Intelligence emitido con fecha de 29 de enero de 2025, con el título “Copyrightability”, accesible aquí. Un documento de 52 páginas que resulta de gran interés, tanto por las afirmaciones que contiene, como por los ejemplos que sirven de ilustración. En él se analizan el tipo y el nivel de contribución humana suficiente para poder proteger por derechos de autor los resultados -outputs- generados por la IA.

Recordemos que en 2024 la USCO publicó la primera parte de este informe -el Report que llevó por título “Digital Replicas”, que es accesible aquí-. Todos estos documentos forman parte de la iniciativa de la USCO anunciada en 2023: realizar un estudio general de la intersección entre la IA y la propiedad intelectual.

La USCO parte del hecho de que el uso de la tecnología en la producción de obras de autor no es algo nuevo, dado que los autores han utilizado tecnología asistida por ordenador durante décadas para mejorar y modificar sus creaciones. Este problema ya se planteó en la década de los sesenta, en relación con los programas de ordenador.

Ya entonces se discutía si existía o no autoría humana. Y ya entonces la respuesta que se dio sigue vigente ahora: no existe una contestación única aplicable a todos los supuestos, sino que debe analizarse si el ordenador fue un mero instrumento de asistencia del autor humano, o si los elementos tradicionales de autoría en la obra (expresión literaria, artística o musical o elementos de selección, arreglo, etc.) fueron, en realidad, concebidos y ejecutados por una máquina.

Tampoco actualmente la respuesta que se dé puede ser categórica, en el sentido de denegar el registro de toda obra en cuya creación se haya empleado una IA. Habrá que estar a las circunstancias fácticas del caso. Sostiene la USCO que ni el uso de la IA como mera herramienta de asistencia en el proceso creativo, ni la incorporación de contenido generado por IA en una obra más grande sujeta a derechos de autor afectan la disponibilidad de protección por derechos de autor a la obra en su conjunto.

A la pregunta de si deberían los productos generados por IA gozar de protección de derechos de autor, la respuesta que procede dar depende de la naturaleza y el alcance de la contribución que haya realizado un ser humano en el caso concreto, pues ello determinará la existencia de autoría humana de los elementos expresivos contenidos en el producto de que se trate.

Un segundo punto de partida de la USCO tiene que ver con la flexibilidad del derecho de autor para expandirse a nuevos tipos de obras, para responder a las nuevas tecnologías y a los nuevos medios.

La novedad de la tecnología actual es que el sistema de IA genera el output a partir de la introducción de uno o varios prompts, yendo desde indicaciones muy breves y simples hasta otras muy detalladas, y pudiendo ingresarse dichos prompts una única vez o de manera reiterada, incluso cientos o miles de veces, con el objetivo de refinar el resultado generado por el sistema de IA, hasta que el output generado efectivamente satisfaga las necesidades del usuario. El tiempo y el esfuerzo humano empleado en cada caso será diferente.

Como explica la USCO, el sistema de IA puede generar un resultado excluyendo algún concreto contenido que el usuario ha querido discriminar expresamente, pero también puede incluir contenido que el usuario no haya especificado, por lo que existen importantes dosis de incertidumbre sobre la interpretación que cada sistema de IA -construido con miles de millones de parámetros- realizará de cada prompt, siendo que la lógica que explica las decisiones tomadas por cada modelo es compleja, dado que al poder predictivo de las redes neuronales que permiten el funcionamiento de esos sistemas se le suma cierta arbitrariedad -de difícil interpretación y predicción para el ser humano-. El grado de imprevisibilidad llega al punto de que un sistema de IA puede generar resultados diferentes a partir de prompts o solicitudes idénticas.

La base jurídica de la que parte la USCO en su informe es el principio humanista: el copyright exige la existencia de autoría humana, tal y como el Tribunal Supremo viene interpretando la Constitución y la Copyright Act: “el autor [de una obra protegida por derechos de autor] es … la persona que traduce una idea en una expresión fija y tangible con derecho a la protección de los derechos de autor” [Cmty. for Creative Non-Violence v. Reid (“CCNV”), 490 U.S. 730, 737 (1989)].

El mero hecho de encargar una obra y dar sugerencias sobre ésta no convierte al comitente en autor, sostuvo el Tribunal Supremo en este caso, referido a una obra plástica. Hasta la fecha, ningún tribunal norteamericano ha reconocido derechos de autor sobre material creado por no humanos.

Haciendo referencia a la célebre sentencia del Tribunal Supremo dictada en el caso Feist Publications, Inc. v. Rural Telephone Service Co [499 U.S. 340, 344-45 (1991)], la USCO señala que la doctrina del sweat of the brow, que permitía proteger por el copyright el mero esfuerzo o el tiempo, quedó desde entonces derogada, dejando claro que únicamente la originalidad es protegible, y que las ideas o datos narrados o contenidos en la obra en sí carecen de protección.

Seguidamente, la USCO hace referencia a un caso célebre sobre la configuración del concepto de autoría de las obras fotográficas: el litigio Burrow-Giles Lithographic Co. v. Sarony (111 U.S. 53, 55–57 (1884), en el que el Tribunal Supremo concluyó que el uso de máquinas no conduce a tener que denegar la protección por el copyright, pues la obra resultante sí quedará protegida cuando contenga suficientes elementos expresivos de autoría humana, como son, en el caso de la fotografía, la disposición del objeto captado, la selección y disposición de vestuario y accesorios y la evocación de la expresión deseada.

La USCO trae a colación las discusiones -contenidas en varios pronunciamientos resueltos por los tribunales de diversos circuitos, que no llegaron a ascender al Supreme Court- sobre la coautoría para llamar la atención sobre el hecho de que para ser considerado coautor de una obra la persona ha tenido que realizar una contribución que per se sea susceptible de protección a la hora de expresar las ideas, no el mero acto de proporcionar ideas.

Como cuestión separada del debate sobre la protección o no del output del sistema de IA, la USCO afirma que “los prompts, por sí mismos, si son suficientemente creativos, pueden quedar protegidos por el derecho de autor” (pp. 20-21). Sin embargo, el hecho de introducir prompts, a modo de ideas o indicaciones que no se pueden proteger, no convierte el resultado que proporcione la IA en una obra protegible. Se llama la atención sobre el dato de que muchos prompts se introducen en el sistema de IA en un medio -por ejemplo, texto- distinto del medio en el que el sistema de IA genera el output -por ejemplo, imagen, video o audio-.

La USCO concluye que, dada la tecnología generalmente disponible en la actualidad, las indicaciones por sí solas no proporcionan suficiente control humano para convertir a los usuarios de un sistema de IA en los autores del resultado. En efecto, las indicaciones que se contienen en los prompts funcionan esencialmente como instrucciones que transmiten ideas no protegibles, pero no permiten al usuario controlar cómo el sistema de IA procesa dichas ideas para generar el resultado. Además, la selección por el usuario de un concreto output o resultado generado por la IA no es per se una decisión creativa, es decir, una decisión original de autoría humana que deba protegerse.

Para realizar estas afirmaciones, la USCO acude al debate sobre la coautoría. Los litigios que tienen que ver con esta cuestión se resuelven analizando la cantidad de control que es necesaria para reclamar la autoría. Pues bien, la provisión de instrucciones detalladas, sin influencia sobre cómo se ejecutan esas instrucciones, es insuficiente.

Tras ello, la USCO hace una importante advertencia: ingresar prompts en un sistema de IA tiene importantes diferencias con el acto de aportar instrucciones a un “artista” encargado de crear una obra. En una colaboración entre personas, según cuál sea la naturaleza de las contribuciones de cada parte, el “artista” puede ser el único autor o, por el contrario, el resultado puede ser una obra en coautoría. En la actualidad, las indicaciones dadas por los usuarios mediante prompts no llegan a determinar adecuadamente los elementos expresivos producidos ni permiten controlar cómo el sistema los traduce en un resultado.

Las indicaciones solamente reflejan la concepción mental o las ideas del usuario, pero, con la tecnología existente actualmente, el usuario no controla la forma en la que la IA expresa esa idea. En este sentido, el hecho de que el uso de dos prompts idénticos pueda dar lugar a que un mismo sistema de IA genere dos outputs diferentes, así como la propia existencia de brechas entre las indicaciones y los outputs resultantes -quedando algunas instrucciones sin reflejar y completando el sistema de IA los espacios vacíos- demuestran que el usuario carece de control sobre la conversión de sus ideas en una expresión fija, y es el sistema de IA quien determina los elementos expresivos en el resultado generado, al interpretar los prompts que introduce el usuario como forma de ejecución de la idea del usuario.

A modo de ejemplo, la USCO utiliza al pintor Jackson Pollock, al que uno de los comentaristas de la iniciativa trajo a colación en su aportación. A diferencia del proceso de generación del output de un sistema de IA, el proceso creativo de Pollock tiene a este pintor como principal responsable de la ejecución de la idea y la determinación de los elementos expresivos en la obra resultante.

El proceso de creación de Pollock no terminaba con su visión o idea de una obra, sino que era él el que controlaba la elección de colores, el número de capas, la profundidad de la textura, la colocación de cada elemento añadido a la composición general y era él quien, con sus propios movimientos corporales, controlaba asimismo la ejecución de cada una de estas decisiones.

Seguidamente, la USCO extiende esta argumentación al proceso de creación de obras fotográficas sobre la naturaleza: el copyright se otorga sobre decisiones humanas originales, tales como el ángulo y la ubicación de la cámara, la velocidad de disparo y sobre decisiones humanas originales de posproducción de la fotografía, sin que la protección por el derecho de autor quede excluida por algunos elementos de aleatoriedad, porque lo que se debe analizar es el grado de control humano, y no el carácter predecible o no del resultado del proceso.

El hecho de que la generación de algunos outputs se realice tras un importante esfuerzo y tiempo del usuario, por haber insertado un número elevado de prompts en la IA generativa utilizada, es irrelevante a estos efectos, señala la USCO, dado que, por un lado, el número de prompts empleados no hace que el usuario llegue a ostentar el control del proceso creativo y, por otro lado, el sweat of the brow no es ya el parámetro a analizar a la hora de otorgar el copyright, sino la originalidad de la obra creada por un ser humano.

La USCO se inclina, por tanto, por la postura que había sido defendida en sus propias aportaciones a la iniciativa de la USCO por algunos de los académicos que son referentes a nivel mundial en esta materia: los profesores Jane Ginsburg y Luke Ali Budiardjo, por un lado, y Daniel Gervais, por otro.

En relación con la denominada teoría de la adopción -que implica que un usuario que acepta como bueno un output generado por un sistema de IA está ejerciendo un juicio creativo y, por ello, ha de ser tenido por autor del output- Ginsburg y Budiardjo habían afirmado “si la adopción posterior a la ejecución sustituyera cualquier participación del autor, incluso indirecta o involuntaria, al dar forma física a una obra, entonces, además de [nombrar] al autor ‘equivocado’, la ley de derechos de autor otorgaría efectivamente a los adoptantes derechos sobre las ideas”.

Por su parte, la oposición de Gervais a la teoría de la adopción se refleja de manera muy visual con la siguiente analogía ofrecida por este autor: “Si entro en una galería o tienda que se especializa en pinturas o cuadros de la sabana africana porque estoy buscando una idea específica (por ejemplo, un elefante al atardecer, con árboles a lo lejos), puedo encontrar una pintura o cuadro que se ajuste a mi idea”, pero “eso de ninguna manera me convierte en autor”. La USCO no acoge la postura defendida por otros reconocidos académicos.

Entre ellos, los profesores Pamela Samuelson, Christopher Jon Sprigman y Matthew Sag, que defendieron que el requisito de la autoría humana sí se cumple por aquella persona que instruya a una IA generativa con suficiente detalle, de modo que el resultado del modelo refleje la concepción original de la obra de esa persona.

En otro orden de cosas, la USCO analiza las implicaciones jurídicas de la inserción por el propio usuario de una obra de originalidad propia como input en un sistema de IA para generar por parte de dicho sistema un output en el que se reproduzcan partes de dicho input. A modo de ejemplo, una fotografía hecha por el usuario que es subida por éste al sistema de IA para que la IA modifique colores y proporciones, o la obra literaria escrita por un usuario en primera persona que es subida al sistema de IA para que éste la redacte en tercera persona.

Este tipo de inputs nada tiene que ver con el mero uso de prompts por el usuario para comunicar ideas que quiera ver reflejadas en el resultado generado por la máquina. Ello porque si el output generado por el sistema de IA reproduce parte del input creado por el usuario, éste habrá tenido una contribución a ese resultado mayor que la mera concepción intelectual.

La USCO pone como ejemplo “Rose Enigma”, una obra cuyo registro se solicitó por Kris Kashtanova. El registro se concedió en 2023, con la siguiente anotación: “El registro se limita a la autoría pictórica humana inalterada que es claramente perceptible en el depósito y separable de la expresión no humana que está excluida de la reivindicación”.

En efecto, en su solicitud de registro, la autora excluyó expresamente “cualquier expresión no humana” que apareciera en la obra final -en este caso, la representación tridimensional realista de la nariz, los labios y los capullos de rosa, así como la iluminación y las sombras del fondo, pues habían sido generados por la IA, a diferencia del resto de elementos expresivos de la obra, que sí figuraban en el dibujo de su autoría que utilizó como input en el sistema de IA y que se perciben claramente en el resultado final-.

En su informe, la USCO se reafirma en esta conclusión: cuando un ser humano introduce su propia obra protegida por derechos de autor como input en un sistema de IA y dicha obra es perceptible en el resultado, será el autor de al menos esa parte del resultado. Y añade la siguiente idea: además, el derecho de autor de ese usuario también podrá cubrir la selección, coordinación y disposición originales de la suma del material creado por él, como ser humano, y de los resultados generados por IA, aunque no se extienda dicho derecho de autor per se sobre cada elemento individual generado por la IA.

En el siguiente apartado, la USCO reflexiona sobre el hecho de que un ser humano puede modificar el resultado generado originariamente por un sistema de IA hasta tal punto que las modificaciones introducidas cumplan con el estándar de protección del derecho de autor. La USCO explica cuál viene siendo su respuesta a un caso recurrente: la solicitud de registro de la combinación de texto creado por autor humano con imágenes generadas por un sistema de IA.

En este caso, si se cumple el requisito de la originalidad -por ser fruto de una serie de decisiones humanas creativas- de la selección y disposición en cada página de imágenes generadas por el sistema de IA con el texto creado por el autor humano, entonces esa suma o combinación final puede quedar protegida como compilación (base de datos) por el derecho de autor, aun cuando el concreto elemento generado por la IA no goce de protección -salvo que haya sido modificado por un ser humano posteriormente, en cuyo caso dichas modificaciones, si son originales, sí quedarían tuteladas por el derecho de autor-. La USCO pone como ejemplo su resolución de 21 de febrero de 2023 en el caso Zayra of the Dawn.

La USCO pone como ejemplos algunas funcionalidades o herramientas de sistemas de IA como Midjourney o ChatGPT que permiten al usuario ejercitar cierto control sobre la selección y disposición de los contenidos en el resultado final. A diferencia de la función de insertar prompts, presente de manera generalizada en los sistemas de IA, estas concretas herramientas o funcionalidades solamente están disponibles en algunos sistemas y permiten al usuario controlar efectivamente la selección y la colocación de elementos creativos individuales.

Por ello, la USCO sostiene que el análisis habrá de realizarse caso por caso y cuando se llegue a la conclusión de que las modificaciones introducidas por el ser humano en el resultado inicial del sistema de IA sean originales, entonces dicho resultado será susceptible de protección por derechos de autor.

En este punto, sería ciertamente aconsejable que la USCO clarificase que lo relevante en sí es el dato de que el usuario sea quien toma decisiones creativas a la hora de elegir las modificaciones a introducir y de controlar la expresión concreta de dichas modificaciones, y no así el dato de su la herramienta empleada para introducir esas modificaciones es, asimismo, un sistema de IA o no. En efecto, los ejemplos traídos a colación en este epígrafe del informe restan claridad y diferenciación con respecto a la problemática discutida en los epígrafes previos.

Tras ello, la USCO advierte que la inclusión de contenidos generados por sistemas de IA en una obra más grande creada por humanos no afecta a la protección por derechos de autor de la obra en su conjunto, aun cuando el concreto elemento generado por la IA quede excluido de dicha tutela.

En el siguiente epígrafe del informe, dedicado al estudio de los pasos dados por otros países, la USCO concluye que la mayoría de países que han analizado la posibilidad de proteger por derecho de autor obras que contengan material creado por sistemas de IA aplican el principio humanista como base del análisis.

La Unión Europea es mencionada dentro de este grupo, junto con Corea del Sur, Japón y China. Asimismo, advierte sobre la consulta pública que Reino Unido ha iniciado en diciembre de 2024 sobre esta materia, con vistas a modificar o mantener la regulación de la protección de las obras generadas por ordenador actualmente vigente. Regulación que rige, de manera similar, en otros países que conformaron o conforman la Commonwealth, como Hong Kong, India y Nueva Zelanda.

En el apartado sobre lege ferenda, la USCO señala que, dado que el copyright exige la autoría humana, la legislación sobre derechos de autor no puede ser la base de la protección de creaciones que no satisfacen ese requisito. Si bien el Congreso estadounidense podría considerar establecer derechos sui generis para los resultados generados por la IA, la USCO no considera convincentes los argumentos de política a favor de una protección adicional.

Los desarrolladores de sistemas de IA ya disfrutan actualmente de incentivos -por ejemplo, por la vía de las patentes o, incluso, del derecho de autor sobre el software, en su caso, así como del Derecho de la competencia- y crear una nueva forma de tutela podría suponer un efecto adverso para los autores humanos, una suerte de desincentivo para estos y para la sociedad en general, si es que ello se traduce en una reducción del número de obras creadas por autores humanos.

Por todo ello, la USCO sostiene que los principios y doctrinas jurídicas existentes son suficientes para dar respuesta a los distintos problemas analizados en este informe. De acuerdo con la USCO, la legislación estadounidense sobre derechos de autor ha demostrado una importante capacidad de adaptación a las nuevas tecnologías y puede permitir la determinación caso por caso de si los resultados generados por sistemas de IA reflejan una contribución humana suficiente para justificar la protección por derechos de autor, en aquellos casos en los que un ser humano haya podido determinar los elementos expresivos que contienen los outputs del sistema de IA.

A modo de resumen, la USCO identifica las siguientes conclusiones de su Copyrightability Report:

• Las cuestiones que plantea la relación entre la propiedad intelectual y la IA se pueden resolver con base en el Derecho existente, sin necesidad de una modificación legislativa.
• El uso de herramientas de IA para asistir a la creatividad humana, sin sustituirla, no afecta a la posible tutela del resultado final por el derecho de autor.
• El derecho de autor protege la expresión original de una obra creada por un ser humano, incluso si esa obra incluye material generado por la IA.
• El derecho de autor no se puede extender a material generado íntegramente por la IA o en el que no haya existido un control humano suficiente sobre la expresión. En estos casos no debe regularse ni un derecho de autor adicional, ni un derecho sui generis.
• El análisis sobre si las contribuciones humanas al output generado por sistemas de IA son suficientes para hacer surgir el derecho de autor debe realizarse caso por caso.
• Teniendo en cuenta el funcionamiento actual de la IA, los prompts no aportan suficiente control humano sobre la expresión.
• Los autores humanos gozarán de la protección por el derecho de autor sobre las obras de su autoría insertadas en el sistema de IA como input que puedan percibirse dentro de los outputs generados por la IA, así como sobre la selección, coordinación o disposición originales de los outputs o en la creación de modificaciones originales de esos outputs.

En el propio texto de su informe, la USCO se compromete a prestar asistencia jurídica al público en materia de registro de resultados generados por la IA y a actualizar el Compendium of U.S. Copyright Office Practices, cuya tercera y última edición data de 2021.

Además, anuncia que próximamente publicará una tercera parte de su informe, dedicada al análisis de las implicaciones para la propiedad intelectual del entrenamiento de sistemas de IA.

Desde el CIPI estaremos muy atentos en los próximos meses al futuro informe anunciado, en el que seguramente se afrontará la posibilidad de subsumir o no actos de minería necesarios para el entrenamiento de sistemas de IA en la tradicional defensa estadounidense por fair use.

(La autora es exalumna de la XVIII Edición del Máster en Propiedad Intelectual, Industrial y NN.TT.)

Los deepfakes son una de las mayores amenazas que enfrenta la sociedad contemporánea debido a su capacidad para crear contenidos visuales y sonoros que parecen absolutamente reales, pero que, en realidad, son completamente falsos. Específicamente, según INCIBE (Instituto Nacional de Ciberseguridad), los deepfakes son vídeos manipulados para hacer creer a los usuarios que ven a una determinada persona, tanto si es anónima como si es un personaje público, realizando declaraciones o acciones que nunca ocurrieron.

Esta tecnología utiliza algoritmos de inteligencia artificial, específicamente el aprendizaje profundo o deep learning, para alterar o crear imágenes, audios y vídeos que manipulan la apariencia o las palabras de personas, a menudo sin que ellas lo sepan o lo consientan. De hecho, la palabra deepfake es un término combinado de “deep learning” y “fake”.

Esta tecnología emergente vio su origen en el mundo de la investigación con aplicaciones prácticas en el mundo del cine como una alternativa a los procesos de construcciones digitales, que tienden a generar altos costos. Quizá el ejemplo más famoso de la implementación de esta tecnología en el cine es la última película de la saga Star Wars, en la cual la actriz Carrie Fisher, conocida por su personaje de la princesa Leia, había fallecido durante su rodaje, por lo que hubo que hacer uso de esta técnica para las escenas que faltaba grabar.

No obstante, el potencial de los deepfakes para ser utilizados con fines maliciosos plantea serias preocupaciones éticas, legales y políticas, particularmente en el contexto de la desinformación y la manipulación pública. En un mundo donde las redes sociales juegan un papel clave en la propagación de información, los deepfakes han emergido como una herramienta poderosa de desinformación, capaz de influir en la percepción pública de una manera antes nunca vista. En este sentido, la preocupación por el uso indebido de esta tecnología se ha incrementado en diversas esferas, especialmente en el ámbito electoral.

Un claro ejemplo de esta amenaza fue el uso de deepfakes durante las elecciones presidenciales en Estados Unidos, donde se temió que los contenidos manipulados pudieran influir en los resultados o alterar la percepción pública de los candidatos. Según datos de Pew Research Center (1), un 57% de los estadounidenses se sienten extremadamente preocupados por el uso de inteligencia artificial para manipular la opinión pública, especialmente durante los comicios.

Este fenómeno ha trascendido las fronteras de los Estados Unidos y se ha convertido en un reto global. Según el AI Index 2024 (2), un informe elaborado por la Universidad de Stanford, los deepfakes ya están afectando a los procesos electorales en distintas partes del mundo, incrementando el riesgo de manipulación de la opinión pública y el debilitamiento de la democracia.

La facilidad con la que los deepfakes pueden ser creados y distribuidos es un factor clave que amplifica su peligrosidad. Cualquier persona con acceso a herramientas y programas de inteligencia artificial puede generar un vídeo manipulando la imagen de un individuo o una situación con una calidad sorprendente. Estos vídeos no solo son difíciles de detectar como falsos, sino que su viralización en plataformas de internet hace aún más complicado controlarlos.

Un caso concreto de cómo pueden alterar la percepción pública y generar confusión fue el vídeo, en 2022, en el que el presidente de Ucrania, Volodymyr Zelensky, aparecía supuestamente anunciando su rendición a Rusia en el contexto de la guerra (3). Este vídeo manipulado, aunque rápidamente identificado como una falsificación, generó una gran alarma entre la población, subrayando los riesgos que los deepfakes suponen en situaciones de alta tensión política y bélica.

Este tipo de manipulaciones masivas ha contribuido a la creación de lo que algunos expertos denominan “infopocalipsis”: una crisis de confianza en la información. La desinformación es cada vez más difícil de distinguir de la verdad, lo que provoca un clima de incertidumbre en la sociedad. La propagación de deepfakes y otros tipos de contenido manipulado ha hecho que las personas sean más escépticas ante las noticias, lo que plantea un desafío sin precedentes para los periodistas y las plataformas de redes sociales.

En este sentido, los medios de comunicación y los periodistas tienen la responsabilidad de verificar y autenticar la información, utilizando herramientas tecnológicas para detectar deepfakes y garantizar que la información que se difunde sea fidedigna. Sin embargo, la velocidad con la que los contenidos circulan en internet y las técnicas de manipulación utilizadas hacen que sea extremadamente difícil para los medios frenar la desinformación en tiempo real.

Debido a la rapidez del desarrollo de esta tecnología, se ha tenido que estudiar qué leyes regulan de manera más analógica estos problemas, esperando a que se aprueben nuevas normas que ayuden a ajustar estas recientes amenazas.

En cuanto a la normativa española, los deepfakes se enmarcan dentro de un contexto legal que protege varios derechos fundamentales. La Constitución Española establece, en su artículo 18, el derecho al honor, la intimidad personal y familiar, y la propia imagen, derechos específicamente protegidos en Ley Orgánica 1/1982, lo que implica que la creación y distribución de contenido manipulado que afecte a estas esferas podría estar vulnerando estos derechos.

En este sentido, el Código Penal español también prevé diversos delitos que podrían aplicarse en situaciones de deepfakes. Los delitos contra el honor, por ejemplo, podrían ser aplicados en casos de calumnias y difamaciones derivadas de vídeos manipulados que dañen la reputación de una persona.

Además, el artículo 197 del Código Penal, relativo a los delitos contra la intimidad, protege a las personas de la difusión no autorizada de imágenes o audios que invadan su privacidad, un ámbito en el que los deepfakes pueden causar un daño significativo. A su vez, la usurpación de funciones públicas, regulada en los artículos 402 y 403 del Código Penal, podría aplicarse si se manipulan vídeos o audios de figuras políticas para suplantar su identidad y difundir información falsa con fines malintencionados.

Por otro lado, la Ley de Propiedad Intelectual y el Reglamento General de Protección de Datos (RGPD) también ofrecen una protección adicional frente a los deepfakes. En primer lugar, la creación y distribución de contenido que utilice imágenes, vídeos o sonidos protegidos por derechos de autor puede constituir una infracción de la propiedad intelectual, si no se cuenta con la autorización correspondiente.

Además, la manipulación de la imagen o voz de una persona, que puede ser considerada un dato personal de acuerdo con el artículo 4.1 del RGPD, exige con base en esta normativa, junto con la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales (LOPDPGDD), el consentimiento explícito de la persona afectada para el uso de estos datos, especialmente si se trata de datos biométricos (4) como el rostro o la voz (artículo 9 RGPD), los cuales son utilizados en los deepfakes para crear representaciones falsas.

El incumplimiento de estas disposiciones puede ocasionar multas administrativas de hasta 20 millones de euros o del 4 % del volumen de negocio anual global en el caso de tratarse de una empresa (artículo 83.5 RGPD). Además, el artículo 82 del RGPD permite a las víctimas reclamar una indemnización por los daños y perjuicios sufridos por el incumplimiento del Reglamento, incluyendo daños morales.

Sumado a esto, las plataformas digitales, como redes sociales y proveedores de servicios de alojamiento de datos, tienen la obligación de colaborar en la lucha contra la difusión de deepfakes implementando sistemas de detección proactiva y ofreciendo mecanismos para eliminar contenido manipulado. En España, estas plataformas están reguladas por el Reglamento (UE) 2022/2065 (Reglamento de Servicios Digitales o DSA), que establece requisitos para los prestadores de servicios de intermediación.

Conforme al artículo 35.1.k) de la DSA, las plataformas deberán garantizar que el contenido generado o manipulado que simule personas, objetos, lugares o eventos existentes y pueda inducir a error se distinga claramente en sus interfaces. Además, deberán ofrecer una herramienta sencilla para que los usuarios puedan señalar dicha información. No obedecer a estas obligaciones puede resultar en sanciones de hasta el 6 % del volumen de negocios anual en todo el mundo del prestador de servicios en el ejercicio fiscal anterior, en casos graves (artículo 52.3 DSA).

El uso de inteligencia artificial para la creación de deepfakes ha impulsado el desarrollo de diversas herramientas tecnológicas diseñadas para detectar y mitigar los riesgos asociados a estos contenidos manipulados. Además, también han surgido iniciativas legislativas, entre las que se encuentra el Código de Prácticas sobre la Desinformación (2022) (5), aprobado por la Comisión Europea, que establece compromisos para que las plataformas identifiquen y actúen contra contenidos manipulativos generados por sistemas de IA, como los deepfakes.

Este código establece la obligación para las plataformas de desarrollar y aplicar políticas de transparencia y detección proactiva de contenidos manipulados, tal como se describe en el “Compromiso nº 15” del mismo. Además, las plataformas deben asegurarse de que los algoritmos que utilizan para detectar, moderar y sancionar contenidos sean confiables, respeten los derechos de los usuarios y no constituyan prácticas manipulativas ilegales.

Por otra parte, también a nivel europeo y recientemente, el Reglamento (UE) 2024/1689 sobre Inteligencia Artificial, adoptado en junio de 2024, establece un marco normativo integral para la regulación del uso y desarrollo de sistemas de inteligencia artificial en la Unión Europea. En este sentido, viene a introducir medidas específicas para la regulación de los deepfakes, obligando a los responsables del uso de IA a etiquetar claramente los contenidos manipulados, indicándoles su origen artificial.

Según el considerando 134 y el artículo 50 del Reglamento, los deepfakes deben ser identificados como contenido generado o manipulado artificialmente, salvo en los casos en que la ley permita excepciones (por ejemplo, en investigaciones penales o en contextos artísticos). La obligación de transparencia es clara, pero con excepciones que buscan proteger el uso legítimo de tecnologías en ámbitos creativos o culturales.

Con todo, a pesar de la existencia de estas pinceladas y analogías en la normativa, todavía existen vacíos legales que dificultan el abordaje efectivo de los deepfakes en España y la UE, mientras que, en otros países, como Estados Unidos o China, ya se han presentado proyectos de ley para prohibir su creación y distribución.

En EEUU, la “No Artificial Intelligence Fake Replicas And Unauthorized Duplications” (“No AI FRAUD Act”) (6) y el “DEEPFAKES Accountability Act” (7) buscan proteger la seguridad nacional contra las amenazas planteadas por la tecnología deepfake y proporcionar recursos legales a las víctimas de deepfakes perjudiciales, mientras que, en China, se publicaron, en enero de 2023, las Disposiciones sobre la Administración de la Síntesis Profunda de los Servicios de Información basados en Internet (las Disposiciones de Síntesis Profunda), que regula la aplicación de deepfakes para prestar servicios de información en Internet (8).

Concretamente, exige la identificación clara de los contenidos generados artificialmente y prohíbe su uso para actividades ilegales o difusión de información falsa, además de obligar a los proveedores a habilitar canales accesibles para quejas y gestionar rápidamente las reclamaciones. Asimismo, requiere obtener el consentimiento explícito de las personas cuando se utilicen o editen sus datos biométricos, como rostros o voces.

Es esencial desarrollar una normativa específica que, al margen de sancionar el uso ilícito de los deepfakes, fomente la prevención a través de mecanismos de detección y campañas de concienciación pública. Asimismo, es crucial que las plataformas digitales asuman una responsabilidad más activa en la identificación y eliminación de contenidos manipulados que no cumplan las exigencias legales, ya que, en un entorno donde estos contenidos pueden vulnerar derechos fundamentales y dar la apariencia de veracidad a noticias inciertas, es imprescindible concienciar sobre la necesidad de verificar la información antes de darla por válida.

Además, la alfabetización digital debe incluir la capacitación en el reconocimiento de herramientas de manipulación y en la comprensión de las implicaciones legales derivadas de su uso indebido. De este modo, no solo se prevendría la difusión de contenidos falsos, sino que se reforzaría una cultura de responsabilidad y respeto a los derechos fundamentales, imprescindible para garantizar el buen uso de estas tecnologías en un marco de legalidad y ética.

Enlaces:

(1) https://www.pewresearch.org/short-reads/2024/09/19/concern-over-the-impact-of-ai-on-2024-presidential-campaign/

(2) https://aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf

(3) https://www.elconfidencial.com/tecnologia/novaceno/2022-03-17/hackers-rusos-difunden-un-video-falso-de-zelensky-ordenando-la-rendicion_3393225/

(4) Art.3.14) «datos biométricos»: datos personales obtenidos a partir de un tratamiento técnico específico, relativos a las características físicas, fisiológicas o conductuales de una persona física que permitan o confirmen la identificación única de dicha persona, como imágenes faciales o datos dactiloscópicos;

(5) https://digital-strategy.ec.europa.eu/en/library/2022-strengthened-code-practice-disinformation

(6) https://www.congress.gov/bill/118th-congress/house-bill/6943/text/ih

(7) https://www.govinfo.gov/content/pkg/BILLS-118hr5586ih/pdf/BILLS-118hr5586ih.pdf

(8) https://www.chinalawtranslate.com/deep-synthesis/