Giugni sintetizza:

siccome, storicamente, le donne (e soprattutto le donne nere, trans, lesbiche o working class) figurano di rado tra le assegnatarie di prestiti o nelle forze lavoro [sic!] di certe organizzazioni, anche in questo caso l’intelligenza artificiale impara rapidamente a replicare tale trattamento. (…) Oltre al problema dei dati “viziati”, c’è poi quello delle dinamiche di potere interne ai luoghi dove i congegni di intelligenza artificiale vengono concepiti e prodotti. Aldilà di alcuni celebrati esempi di tecnologhe e ingegnere informatiche, i dati parlano chiaro: l’industria tech resta, a livello globale, un settore a supremazia maschile e bianca. Su circa 65.000 sviluppatori recentemente censiti in tutto il mondo dalla community di programmazione Stack Overflow, le donne risultano pari a poco più dell’8 percento del totale. Altre recenti statistiche indicano che negli Stati Uniti (…) le donne nere contano per appena tre punti percentuali della forza lavoro. In Italia, d’altronde, dati di settore disaggregati sulla base sia del genere che della razza al momento non si raccolgono neppure. Per cui ci vuole poco a (…) realizzare che se le donne (e soprattutto alcune di loro) sono drammaticamente sottorappresentate nelle sedi in cui si determinano le evoluzioni tecnologiche future, è improbabile che i pregiudizi sessisti dell’intelligenza artificiale vengano presi particolarmente sul serio. Senza contare i casi in cui esperte brillanti (e perdipiù con una spiccata sensibilità al tema delle ingiustizie algoritmiche) vengono deliberatamente ostacolate e ostracizzate dalle grandi aziende tech. (…) Dall’India agli Emirati Arabi Uniti, passando per gli USA e la Gran Bretagna, nuove app “della cura” si stanno ad esempio accaparrando grosse fette di mercato. Parliamo di dispositivi tramite i quali è possibile prenotare servizi di pulizia, baby-sitting, o anche massaggi, cerette e altri trattamenti estetici a domicilio. A servirsene per offrire le proprie prestazioni sono, prevedibilmente, soprattutto donne. E già pullulano le denunce di lavoratrici accortesi di come gli algoritmi di alcune piattaforme siano programmati per penalizzarle in caso decidano di saltare dei turni, o ricevano recensioni meno lusinghiere dalle clienti. (L. Giugni, “Patriarcato algoritmico”, in AA. VV., “Miti e trappole dell’intelligenza artificiale”)