El año pasado se produjo un aumento notable en la calidad y cantidades de deepfakes: imágenes y videos de aspecto realista producidos con Inteligencia Artificial que retratan a alguien haciendo o diciendo algo que nunca sucedió, como Nixon pronunciando un discurso alternativo de alunizaje.
A medida que avanzan las herramientas para producir este medio sintético, los legisladores se esfuerzan por abordar las preocupaciones públicas y los legisladores estatales, en particular, han presentado varias propuestas este año para responder a las falsificaciones.
Una de las principales preocupaciones es que las deepfakes se utilizarán como parte de una campaña de desinformación para influir en las elecciones. Por ejemplo, los investigadores en una conferencia del MIT demostraron cómo podían usar la tecnología para crear una entrevista falsa en tiempo real con el presidente ruso Vladimir Putin.
En respuesta a tales preocupaciones, Texas aprobó una ley en septiembre del año pasado para penalizar la publicación y distribución de videos falsos destinados a dañar a un candidato o influir en los resultados dentro de los 30 días de una elección.
Por su parte, California aprobó una ley que hace ilegal que cualquier persona distribuya intencionalmente deepfakes destinadas a engañar a los votantes o dañar la reputación de un candidato dentro de los 60 días de una elección. La ley excluye a los radiodifusores de noticias de sus reglas, así como también cualquier video hecho para sátira o parodia y videos que están claramente etiquetados como falsos.
Estas leyes son buenos pasos para evitar que las campañas utilicen deepfakes para atacar a sus oponentes, pero no harán nada para detener la interferencia política extranjera y a algunos activistas de la Primera Enmienda de los Estados Unidos les preocupa que puedan restringir indebidamente la libertad de expresión.
Por otro lado, también preocupa que la tecnología deepfake se use para crear imágenes pornográficas o videos de individuos, en su mayoría mujeres famosas, sin su consentimiento.
En un estudio de septiembre de 2019, Deeptrace, una compañía con sede en Ámsterdam que detecta y rastrea las deepfakes en internet, encontró 14,678 videos falsos en sitios web de transmisión populares, el doble que en diciembre de 2018 y descubrió que el 96% de los videos involucraban pornografía no consensual.
Hasta ahora, sólo un estado (California) ha aprobado una ley que aborda este tema. En octubre, el gobernador Gavin Newsom firmó una ley que permite a las personas demandar a alguien que ha creado una deepfake que hace que su imagen aparezca en imágenes o videos pornográficos, incluso si el contenido está etiquetado como falso.
La ley trata de equilibrar las preocupaciones sobre la libertad de expresión al excluir materiales que tienen un interés público legítimo, como ser noticia. Si bien esta ley brindará a las víctimas algún recurso, no las ayudará si la fuente del material es anónima o está fuera de la jurisdicción del estado y tampoco detendrá la distribución del contenido.
El último problema importante que enfrentan los legisladores es cómo proteger los derechos de las personas para controlar el uso comercial de su imagen e identidad. La tecnología deepfake está avanzando hasta el punto de que los artistas pueden recrear completamente su imagen en forma digital, permitiendo que su imagen se use en proyectos que no tienen una participación directa, incluso después de su muerte.
Las celebridades suelen cobrar por el uso comercial de su imagen y estos derechos pueden ser enormemente valiosos, por lo que muchos quieren asegurarse de mantener estos derechos, incluso con la tecnología emergente.
La Legislatura del estado de Nueva York consideró, pero finalmente no aprobó, una legislación apoyada por el Screen Actors Guild que habría establecido un nuevo derecho de publicidad para las personas. En particular, habría extendido este derecho de publicidad a 40 años después de la muerte de un individuo y habría prohibido el uso consensuado de una “réplica digital” de un individuo sin su consentimiento (o el de sus herederos).
La mayoría de estas leyes toman el enfoque correcto: hacen que sea ilegal distribuir deepfakes con una intención maliciosa y crean un recurso para aquellos en su estado que han sido afectados negativamente por malos actores. Sin embargo, es importante que los legisladores elaboren cuidadosamente estas leyes para no erosionar los derechos de libertad de expresión o socavar los usos legítimos de la tecnología.
A medida que otros estados consideran si deben perseguir este tipo de leyes, deben proceder con cautela, reconociendo que la tecnología deepfake está cambiando rápidamente. Las leyes estatales serán solo un primer paso: los sitios web también deberán eliminar este contenido y las reglas para esto pueden necesitar decidirse a nivel federal.