Posibilidades de la Inteligencia Artificial (IA) para la prevención de la violencia de género

Abstract

Introducción y objetivos: La aparición masiva de herramientas de inteligencia artificial (IA) conlleva un desafío importante para las investigaciones feministas: sus sesgos de género en detrimento de las mujeres. Este estudio explora las posibilidades de la IA como herramienta en la detección de la violencia de género en las películas y las series a través del análisis fílmico, usando el test de Bechdel-Wallace. Metodología: Para ello se diseñó un cuestionario de autoevaluación basado en el test de Bechdel-Wallace y en otros modelos que analizan la representación de las mujeres en los productos audiovisuales. También se utilizó la IA generativa Copilot (v.2024) para diseñar un cuestionario, y sus resultados fueron comparados con los de un grupo de 29 estudiantes universitarios. Copilot (v.2024) elaboró un cuestionario que está en línea con los principios de prevención y sensibilización establecidos por el equipo investigador, una muestra de que la IA, cuando es guiada y supervisada, puede generar herramientas útiles para el análisis crítico de la representación de género. Los estudiantes aplicaron el cuestionario a productos culturales de su elección, tomando una distancia crítica que favoreció la identificación de violencias machistas y la reflexión sobre la representación de género en los medios. Resultados: se compararon las respuestas del grupo piloto con las generadas por Gemini 1.5 y se encontró un 78% de coincidencia entre ambas. No obstante, en un 13% de los casos, las respuestas humanas mostraron un análisis más profundo y matizado que las de la IA, que tendía a formular respuestas estandarizadas sin captar plenamente la complejidad de ciertas dinámicas de poder. Implicaciones prácticas: El estudio sugiere que la IA generativa puede ser una herramienta de apoyo para la educación y la prevención de la violencia de género siempre que su uso esté supervisado y complementado con análisis humanos críticos y reflexivos, basados en la teoría y las investigaciones feministas.

Introduction and aims: The massive emergence of artificial intelligence (AI) tools presents a significant challenge for feminist research: their gender biases to the detriment of women. This study explores the potential of AI as a tool for detecting gender-based violence in films and series through film analysis by means of the Bechdel-Wallace test. Methodology: A self-assessment questionnaire was designed, based on the Bechdel-Wallace test and other models that analyze the representation of women in audiovisual products. The generative AI Copilot (v.2024) was used to design a questionnaire, and its results were compared with those of a group of 29 university students. The questionnaire developed by Copilot (v.2024) aligned with the prevention and awareness principles established by the research team, demonstrating that AI, when guided and supervised, can generate useful tools for the critical analysis of gender representation. The students applied the questionnaire to cultural products of their choice, maintaining a critical distance that facilitated the identification of gender-based violence and reflection on gender representation in the media. Results: The responses from the pilot group were compared with those generated by Gemini 1.5, yielding a 78% coincidence between both. However, in 13% of the cases, human responses showed a deeper and more nuanced analysis than those of the AI, which tended to provide standardized answers without fully capturing the complexity of certain power dynamics. Implications: The study suggests that generative AI can be a supportive tool in educational contexts and the prevention of gender-based violence, provided its use is supervised and complemented with critical and reflective human analysis, grounded in feminist theory and research.