“Algorithms of Oppression: How Search Engines Reinforce Racism” è un libro del 2018 di Safiya Umoja Noble. Il libro sostiene che i motori di ricerca hanno un impatto negativo sulle donne di colore a causa dei pregiudizi razziali e sessuali negli algoritmi. Noble afferma che questi algoritmi non sono semplici strumenti neutri, ma piuttosto sistemi con pregiudizi incorporati che riflettono le disuguaglianze della società in generale.

I punti principali del libro sono:

• I motori di ricerca non sono neutrali. A differenza della credenza popolare, i motori di ricerca non sono semplici strumenti oggettivi per trovare informazioni. Sono creati da esseri umani, sviluppatori di software e ingegneri, le cui prospettive e pregiudizi si riflettono nel codice che scrivono. Questo significa che gli algoritmi che guidano i motori di ricerca possono involontariamente dare priorità o amplificare certi tipi di informazioni rispetto ad altri, spesso a spese di gruppi emarginati.
• I pregiudizi razziali e sessuali sono incorporati negli algoritmi dei motori di ricerca. Noble sostiene che i pregiudizi razziali e sessuali sono incorporati negli algoritmi dei motori di ricerca, portando a risultati di ricerca che sono dannosi per le donne di colore. Questi pregiudizi possono manifestarsi in vari modi, come la sovra-rappresentazione di contenuti espliciti o degradanti che riguardano le donne di colore o la sottorappresentazione delle loro voci ed esperienze.
• I motori di ricerca rafforzano gli stereotipi razziali e sessuali. I risultati di ricerca spesso ritraggono le donne di colore in modi negativi, come oggettivandole, iper-sessualizzandole o perpetuando stereotipi dannosi. Questi stereotipi possono avere conseguenze di vasta portata, influenzando il modo in cui le donne di colore vengono percepite dalla società e contribuendo alla loro emarginazione.
• I motori di ricerca hanno un impatto reale sulla vita delle donne di colore. I risultati di ricerca non sono solo parole su una pagina; hanno un impatto reale sulla vita delle persone. Possono influenzare le opportunità di lavoro, le interazioni sociali e persino l’autostima. Quando le donne di colore sono costantemente soggette a rappresentazioni negative nei risultati di ricerca, ciò può portare a una diminuzione del valore di sé e a un senso di disconnessione dalla società.
• È necessario un cambiamento attraverso una maggiore consapevolezza e lo sviluppo di algoritmi più equi. Noble chiede una maggiore consapevolezza dei pregiudizi razziali e sessuali negli algoritmi dei motori di ricerca. Ciò include sia la comprensione di come questi pregiudizi sono incorporati nei sistemi sia il riconoscimento del danno che possono causare. Sottolinea anche la necessità di sviluppare nuovi algoritmi che siano più equi e che riflettano la diversità della società.

In sintesi, “Algorithms of Oppression” è una critica approfondita del modo in cui i motori di ricerca rafforzano il razzismo e il sessismo. Il libro sostiene che questi algoritmi hanno un impatto reale sulla vita delle donne di colore e chiede un cambiamento nel modo in cui sono progettati e utilizzati. Sollecita i lettori a mettere in discussione criticamente le informazioni che incontrano online e a chiedere conto alle aziende tecnologiche delle conseguenze delle loro creazioni algoritmiche.