El desarrollo de nuevas aplicaciones de Inteligencia Artificial requiere de un estudio sobre su impacto social. En concreto, invita a realizar análisis prospectivos de las consecuencias jurídico-políticas que tendría el empleo de herramientas de generación automática de contenido audiovisual hiperrealista personalizado. Profundizar en el binomio deepfakes-violencia contra las mujeres conlleva la identificación de tres categorías problemáticas de empleo de contenido audiovisual fraudulento en contra de las mujeres a través de: a) técnicas de desprestigio, b) suplantación de identidad y c) simulación de situaciones constitutivas de delito. Frente a los potenciales usos perjudiciales, se articula un sistema de triple respuesta que interpela al ámbito jurídico, político y tecnológico desde la multidisciplinariedad y la interdependencia para formular propuestas de solución desde la vigencia de los derechos humanos de las mujeres y los valores democráticos.

—

Legal challenges arising from Generative Artificial Intelligence: Deepfakes and violence against women as a factual scenario.

The development of new Artificial Intelligence applications requires a study of their social impact. In particular, it invites prospective analyses of the legalpolitical consequences of using tools to automatically generate personalized hyper-realistic audiovisual content. The deepfakes-violence against women binomial involves the identification of three problematic categories of use of fraudulent audiovisual content against women through a) smear techniques, b) impersonation and c) simulation of situations constituting a crime. In the face of the potentially harmful purposes, a triple response system is articulated that challenges the legal, political, and technological spheres from a multidisciplinary and interdependent perspective to formulate proposals for solutions based on the validity of women’s human rights and democratic values.