La Inteligencia Artificial y su impacto sobre los autores y el sector audiovisual han protagonizado la segunda mesa redonda de industria en la décima edición del Festival de Cine de Santander, coorganizada con DAMA (Derechos de Autor de Medios Audiovisuales) y Audiovisual451. Pablo Barrera, guionista, director y vicepresidente de DAMA; Pablo Martí, abogado de los servicios jurídicos de la entidad; y la guionista Olatz Arroyo han hablado de lo que representa esta tecnología para el sector audiovisual.
La regulación de la inteligencia artificial generativa, el entrenamiento de los modelos con obras protegidas, los mecanismos de opt-out y opt-in, la utilización de estas herramientas en el trabajo de los guionistas y su incorporación a distintos departamentos de una producción audiovisual han formado parte de la conversación.
La premisa que ha prevalecido es la necesidad de una regulación. “Lo único que tenemos en nuestra mano para poder ponerle límites a la inteligencia artificial generativa es la fuerza de la ley”, ha asegurado Barrera. El vicepresidente de DAMA considera que en el desarrollo de la IA “se ha echado de menos” esa regulación y sostiene que las compañías han aprovechado los “recovecos de la ley” para avanzar rápidamente.
Barrera ha calificado de “robo” la utilización de obras para el entrenamiento de estos sistemas: “Todas las plataformas de IA lo han hecho, porque todas han aprendido sin pedir permiso de todo lo que está al aire y que tiene derecho de propiedad intelectual” y añade que “han cogido todo, los libros, los guiones, las películas, las obras de arte, las fotos, tus correos electrónicos, tus adjuntos, todo para aprender”.
Transparencia, autorización y remuneración: las claves ante el entrenamiento de la IA
Desde la perspectiva jurídica, Pablo Martí ha situado el entrenamiento de los modelos en el origen del problema. “El problema principal yo creo que es el entrenamiento de las IAs, que es el origen del problema, que luego se replica en la utilización de lo que ellos generan” y sostiene que para ese entrenamiento se utilizan obras audiovisuales de los autores representados por DAMA y por otras entidades similares que las compañías se están amparando en la minería de textos y datos. “Creemos que está claro que esa excepción no es aplicable a la IA, es una excepción que se hizo en 2019, cuando no existían esas funcionalidades de la IA generativa”, ha afirmado.
El abogado ha planteado dos posibilidades: prohibir el uso de las obras para el entrenamiento y que las empresas tengan que solicitar autorización a cada autor, algo que considera “muy complicado”, o establecer un sistema específico para el entrenamiento de la inteligencia artificial.
En este segundo supuesto, Martí ha señalado que debería existir “transparencia real”, de manera que “se diga exactamente qué obra utiliza cada empresa y cómo la utiliza” y también ha mencionado un sistema de opt-out que permita a cualquier autor que no quiera participar excluir su obra de los entrenamientos, junto a una remuneración que compense a los autores.
Por su parte, Pablo Barrera ha cuestionado la capacidad real de un creador para ejercer individualmente ese derecho frente a las grandes compañías. “¿Cómo vas a litigar tú, pequeño autor, contra las empresas más importantes del planeta? O sea, eso no se puede hacer”, ha señalado. Para él, “la única manera de hacerlo de una manera eficaz es con la gestión colectiva, que es lo que hacemos las entidades de gestión de derechos de autor, y con la fuerza de ley detrás”.
Martí ha introducido otra posibilidad: “Se puede hacer algo todavía más efectivo, que es el opt-in”. Su propuesta sería que, a través de la gestión colectiva, únicamente aquellos autores que quieran participar expresamente en el entrenamiento se incorporen a ese sistema a cambio de una remuneración.
El abogado considera que tanto un modelo de opt-in como de opt-out requeriría una norma y un ámbito superior al español. “Tiene que ser a nivel europeo, porque al final los entrenamientos de las inteligencias artificiales son internacionales, o sea, no sirve de nada una ley española”, ha afirmado.
“No escribas con IA”: Olatz Arroyo alerta de la reducción de equipos de guion
La utilización de la IA dentro de los propios procesos creativos ha ocupado otra parte del encuentro. “Para mí como guionista, la IA sigue siendo un elemento de absoluta preocupación y temor”, ha advertido Olatz Arroyo, quien asegura conocer equipos que “se han reducido bastante” después de comenzar a utilizar inteligencia artificial “para escaletar y cosas así”. También ha explicado que todavía ningún productor le ha pasado personalmente un guion escrito mediante IA para que trabaje sobre él, a lo que se negaría, aunque sostiene que sí les ha ocurrido a otros guionistas.
Arroyo ha defendido directamente no utilizar estas herramientas para escribir: “Lo que aconsejo es no la uses, no escribas con IA, me parece que si quieres ser guionista no puedes entretenerte en meterle prompts a una máquina, tienes que escribir, si no, no eres guionista” y ha diferenciado entre la documentación y la generación de un texto: “una cosa es documentarte y otra cosa es meterle prompts a una máquina de ‘escríbeme una secuencia’.
Barrera ha llevado la reflexión al terreno de las emociones y a la relación que se establece entre una obra y el espectador. “Todas estas obras artísticas al final tratan de emociones, de emociones que uno transmite y de emociones que llegan a un espectador y que uno recibe”. Ha recurrido a la ópera para explicarlo diciendo: tú vas a la ópera, a un espectáculo en vivo, estás viendo ‘La bohème’ y va a llegar el aria de Mimì, estás viendo a una persona cantando algo maravilloso y llegando a un momento de esfuerzo humano que te hace llorar” y ante la posibilidad de que ese virtuosismo procediera de una inteligencia artificial, Barrera se ha preguntado: “¿Te vas a emocionar igual? Y responde: “Yo creo que no”.
A partir de ese ejemplo, Barrera ha situado el debate más allá de la legislación, pues “estamos hablando de algo mucho más profundo, filosófico y existencial”. Para el guionista y director, ese intercambio mantiene “un contrato no escrito entre el autor y el espectador de autenticidad; no podemos dejar que eso esté en otras manos”, ha afirmado y ha diferenciado la irrupción de la IA de anteriores cambios tecnológicos ya que “aquí no estamos hablando de haber cambiado la pluma por la máquina de escribir o la máquina de escribir por el ordenador, estamos hablando de una herramienta con la que tú trabajas, estamos diciendo que estamos cambiando al humano que trabaja por la herramienta”.
Regulación europea y una IA que ya se utiliza en el audiovisual
En relación con las actuaciones regulatorias, Pablo Martí ha explicado que desde DAMA participan en organismos internacionales para “concienciar e impulsar normas que mejoren la situación”. También se ha referido al intento del Gobierno español de aprobar un real decreto: “No salió, pero estuvimos ahí en las negociaciones que hubo con el sector y seguiremos”.
Sobre ello, Barrera ha mencionado distintos impulsos regulatorios en Europa relacionados con la directiva sobre minería de datos y con la regulación de la inteligencia artificial y también ha destacado la importancia que pueden tener las decisiones adoptadas en los tribunales de distintos países: “Si en un país alguien pone una denuncia, y a partir de esta denuncia un juez sienta un precedente a favor de autores o de empresas locales, eso se extiende y esas cosas están pasando”.
Martí se ha referido a un procedimiento ante el Tribunal de Justicia de la Unión Europea relacionado específicamente con la cuestión de si el entrenamiento de inteligencia artificial está amparado por la minería de datos. Según ha explicado, el procedimiento continúa pendiente y una sentencia podría llegar “el año que viene o el siguiente”, además de mencionar sentencias de primera instancia relacionadas con esta materia y ha insistido en que no son firmes y han sido recurridas. “Aún no hay una seguridad pública. Hay que ejecutar las sentencias, hay que ver qué dice el fallo”, ha señalado.
Mientras continúa el debate jurídico, Barrera ha advertido de que la inteligencia artificial ya se está utilizando en distintos oficios del sector audiovisual. “Los montadores lo utilizan, los sonidistas lo utilizan, los músicos lo están utilizando para ir más rápido, para no tener que acudir a una orquesta a hacer los arreglos de la música, los directores de arte, los propios directores, están planificando, ayudándose de la IA”, ha enumerado.
“No podemos ser naif diciendo que esto, ‘me tapo los ojos y no existe’, no”, ha afirmado, pero ha dejado claro que en el caso del guion la situación presenta una particularidad pues esta parte de la cadena de la producción audiovisual es la única de todos los procesos que parte de un papel en blanco, entonces ahí sí que es muy claro dónde está la diferencia” y finalmente, ha relatado que en series de determinadas plataformas existen “inspectores” encargados de vigilar que los distintos equipos no utilicen inteligencia artificial durante la producción.
Según Barrera, “no es una cuestión de ética, es una cuestión de protección de sus materiales”, porque introducir esos contenidos en herramientas de IA puede abrir una vía de salida de materiales pertenecientes a la plataforma y afectar a su posterior explotación. “Cada vez va a ser más complicado separar el grano de la paja”, ha concluido.
