La transparència de l’algorisme en la concessió de crèdits

Abstract

Imaginem que un operador de telefonia mòbil es nega a concloure un contracte de telefonia que comporta pagar 10 euros al mes, perquè el potencial client no té prou solvència econòmica, segons la puntuació determinada per una empresa. Imaginem també que aquesta puntuació, que és fruit d’una decisió algorítmica, i que podria servir igualment perquè un banc decidís si concedeix o denega el crèdit a un potencial client, ha tingut en compte dades o característiques que no estan directament relacionades amb la solvència o capacitat de pagament del subjecte, sinó que es basa en un perfil generat de forma automatitzada a partir de les característiques, idees, gustos, o hàbits i costums de les persones, i sense tenir en compte un control individual de les condicions i característiques concretes d’aquell subjecte. És evident que hi ha un greu perill de discriminació i d’exclusió social si, sobre aquesta base, es denega l’accés a recursos financers o serveis essencials malgrat que l’afectat hi tingui dret o pugui complir perfectament les obligacions derivades del contracte.