Afferma con grande chiarezza Crawford:

L’intelligenza artificiale non è una tecnica computazionale oggettiva, universale o neutrale che prende decisioni in assenza di istruzioni umane.

I suoi sistemi sono incorporati nel mondo sociale, politico, culturale ed economico, plasmati da esseri umani, da istituzioni e da imperativi che determinano ciò che gli uomini fanno e come lo fanno.

Sono progettati per discriminare, amplificare le gerarchie e codificare classificazioni rigorose.

Se applicati a contesti sociali come la polizia, il sistema giudiziario, l’assistenza sanitaria e l’istruzione, possono riprodurre, ottimizzare e amplificare le disuguaglianze strutturalmente esistenti.

Ciò non avviene per caso: i sistemi di IA sono costruiti per interpretare il mondo e intervenire in esso in modi che sono principalmente vantaggiosi per gli stati, le istituzioni e le società di cui sono al servizio.

In questo senso, i sistemi di IA sono espressioni di potere che discendono da forze economiche e politiche più ampie, creati per aumentare i profitti e centralizzare il controllo nelle mani di coloro che li detengono.