Ètica algorítmica i perspectiva de gènere: de l’opacitat a la transparència

Abstract

En els processos de selecció de personal, les organitzacions recorren, cada vegada més, a solucions d’intel·ligència artificial, basades en la programació i la implementació dels anomenats «algoritmes»: sistemes lògics que analitzen automàticament documents com els curricula vitae o altres conjunts de dades per identificar en un segon els perfils més pertinents per a una determinada feina. Ara bé, l’ús d’algoritmes en els processos de selecció pot esdevenir discriminatori. La raó és que els algoritmes mai no són neutres axiològicament, sinó que estan programats segons una sèrie de criteris que algú ha decidit. Aquests criteris poden, doncs, reproduir biaixos humans. En el cas del gènere, les conseqüències són especialment greus, sobretot si tenim en compte que en els processos de selecció de personal ja solen incidir-hi altres formes de discriminació de gènere. L’objectiu del present estudi és posar llum en aquells aspectes en què l’automatització dels processos de selecció de personal pot donar lloc a determinades lògiques discriminatòries. L’objectiu del treball és reduir l’opacitat que molt sovint envolta l’aplicació social de les tecnologies basades en algoritmes, i contribuir, des de l’ètica, a una reflexió que vetlli perquè els algoritmes no promoguin decisions discriminatòries i biaixos de gènere.