Ingiustizia strutturale

rappresenta un tipo di ingiustizia in cui gli individui e i gruppi emarginati sono alla mercé di processi strutturali che operano all’interno delle regole istituzionali e delle norme accettate dalla società. (…) Quando l’ingiustizia è strutturale (…) gli strumenti giuridici a disposizione non sono sufficienti, perché la responsabilità individuale basata sulla colpa non è scalabile quando abbiamo a che fare con strutture di oppressione più ampie. Quando l’ingiustizia viene operata da una macchina, le tutele legali (come le norme antidiscriminazione) sono ancora più inadeguate. La protezione legale offerta dalla legge sulla non discriminazione è messa in discussione quando sono le IA, e non gli esseri umani, a discriminare. (…) la discriminazione automatizzata è più astratta e non intuitiva, sottile, intangibile e difficile da individuare. L’uso crescente degli algoritmi sconvolge i rimedi e le procedure legali tradizionali per l’individuazione, l’indagine, la prevenzione e la correzione della discriminazione, che si sono basati prevalentemente sull’intuizione (…) parlare di discriminazione «algoritmica» non deve [però] confonderci. Quando discriminazioni automatizzate come quelle dei nostri esempi hanno luogo, significa che l’ingiustizia strutturale e quella tipica del funzionamento dei processi decisionali automatizzati si sommano. Questo non può distrarci dalla dimensione attiva e deliberata che ha a che fare con le diverse responsabilità umane a favore di un errore prettamente tecnico. (D. Huyskes, “Tecnologia della rivoluzione. Progresso e battaglie sociali dal microonde all’intelligenza artificiale”)