Regulando nuevos fenómenos: “deep fakes sexuales”. Análisis de la normativa disponible y la tipificación de una nueva conducta antijurídica.

Abstract

This research paper focuses on analyzing and proposing improvements in the regulation of artificial intelligence usage for the dissemination of sexual images, balancing individual and collective freedoms in the Spanish context. Through reference cases, key elements of the behavior to be regulated are identified and the affected rights are examined. The inadequacy of current regulations is argued, and regulatory measures are proposed, considering psychological and emotional harm, as well as ethical and legal challenges. The need to regulate deepfake creation tools is highlighted, proposing a possible criminal offense and avenues for victim reparations. It is concluded that regulation should be realistic and focus on impeding content creation, given the constant technological evolution

Este estudio se centra en analizar y proponer mejoras en la regulación del uso de inteligencia artificial para la difusión de imágenes sexuales, equilibrando las libertades individuales y colectivas en el contexto español. A través de casos de referencia, se identifican elementos clave de la conducta a regular y se examinan los derechos afectados. Se argumenta la insuficiencia de la normativa actual y se proponen medidas regulatorias, considerando el daño psicológico y emocional, así como los desafíos éticos y legales. Se destaca la necesidad de regular las herramientas de creación de deepfakes, proponiendo un posible tipo penal y vías de reparación para las víctimas. Se concluye que la regulación debe ser realista y centrarse en dificultar la creación de contenido, dada la evolución tecnológica constante

Aquest estudi se centra a analitzar i proposar millores en la regulació de l'ús d'intel·ligència artificial per a la difusió d'imatges sexuals, equilibrant les llibertats individuals i col·lectives al context espanyol. A través de casos de referència, s'identifiquen elements clau de la conducta que cal regular i s'examinen els drets afectats. S'argumenta la insuficiència de la normativa actual i es proposen mesures regulatòries, considerant el dany psicològic i emocional, així com els desafiaments ètics i legals. Es destaca la necessitat de regular les eines de creació de deepfakes, proposant un possible tipus penal i vies de reparació per a les víctimes. Es conclou que la regulació ha de ser realista i centrar-se a dificultar la creació de contingut, atesa l'evolució tecnològica constant