Kate Crawford chiarisce che l’intelligenza artificiale è fatta di componenti materiali, carburante, lavoro umano, infrastrutture, logistica, storie e classificazioni.

I sistemi di intelligenza artificiale hanno bisogno di una formazione computazionale intensiva, con set di dati di grandi dimensioni e regole e validazioni predefinite. In sintesi, l’IA dipende da un insieme molto ampio di strutture economiche, politiche e sociali, in particolare dal capitale necessario per costruirla, ottimizzarla, produrla e distribuirla su larga scala.

E pertanto va compreso che i sistemi di intelligenza artificiale sono progettati per servire gli interessi dominanti esistenti e costituiscono una sorta di registro del potere.

Essi infatti sono modellati da strutture economiche, politiche, culturali e storiche e non sono pertanto un campo di riflessione, azione e critica puramente tecnico. La ratio computazionale è fortemente interconnessa con forme di lavoro incarnato: i sistemi di intelligenza artificiale dipendono da relazioni sociali costituite e riflettono comprensioni del mondo consolidate. E allo stesso tempo producono rapporti e interpretazioni/spiegazioni.

L’autrice chiarisce che la formulazione “intelligenza artificiale” è usata soprattutto nel marketing, per la ricerca di investimenti e/o di attenzione mediale. Gli addetti ai lavori, invece, utilizzano prevalentemente il concetto di “machine learning”. Nel suo approccio, IA fa riferimento all’insieme industriale che include politica, lavoro, cultura e capitale, mentre il machine learning comprende una serie di approcci tecnici.

La restrizione di analisi, dibattito e confronto agli aspetti tecnico-algoritmici, alla misurazione astratta dell’efficienza, alle astrazioni concettuali relative alle reti neurali e al riconoscimento di schemi statistici ha finora offuscato le strutture di potere che si collocano all’intersezione tra tecnologia, capitale e governance.

Crawford afferma con forza che l’intelligenza artificiale è invece fondamentalmente politica e sostiene che va indagato e condiviso cosa viene ottimizzato e per chi e chi può decidere.