La contraddizione sorge quando un’élite centralizzata stabilisce le condizioni per un processo computazionale magico (che si tratti del mercato o di un sistema informatico) e decide quando funziona o quando deve essere corretto, ma afferma anche che questo processo è al di fuori del controllo umano. Allo stesso modo, le aziende che costruiscono i celebri sistemi dell’IA sposano la democrazia decentralizzata rispetto al controllo gerarchico, ma le élite aziendali dettano ciò che conta come dati e come vengono utilizzati; Il mitico mercato piatto e democratico non esiste. (…) [nel] quadro neoliberista (…) i proprietari capitalisti non controllano il mercato, ma si limitano a stabilire le condizioni per il suo funzionamento. Analogamente (…) l’élite [tecnocratica] non controlla direttamente la vita degli individui, ma semplicemente sintonizza l’ambiente in cui le persone operano. Le narrazioni dell’IA rinominata fondono questi miti neoliberisti e comportamentisti. Le grandi aziende che dominano queste narrazioni creano mercati totalizzanti (attraverso piattaforme che modificano il comportamento) e poi offrono un modello di sé in cui rispondere a tali rinforzi o segnali di mercato è il nucleo di ciò che significa essere “intelligenti”. Ciò dimostra come la progettazione dei sistemi informatici dell’IA sia informata da una concezione specifica dell’ordine sociale e come la celebrazione di questi sistemi informatici riaffermi tale ordine sociale. (…) Implicita in questa argomentazione è la semplice osservazione che ogni sistema informatico esiste in un involucro sociale. Contrariamente alle falsificazioni epistemiche che abbiamo esaminato, le persone decidono cosa conta come dati, quando l’output del software è corretto, quando ha bisogno di revisione, e così via. Inoltre, tutte queste decisioni sono modellate, a volte in modi imprevedibili, dai vincoli fisici del mezzo di calcolo. I sistemi informatici non sono quindi generalmente riducibili agli algoritmi né al codice sorgente del software che eseguono. (…) l’indecifrabilità astratta può essere un modo per mascherare il potere istituzionale. Consideriamo le narrazioni (…) sull’indecifrabilità dei sistemi basati su reti neurali, che sottolineano l’incomprensibilità di tali sistemi per le persone, compresi i loro stessi sviluppatori. C’è un minimo di verità in questo: dopo che una rete neurale è stata addestrata su alcuni dati, non emerge necessariamente alcuna regola facilmente interpretabile che ne spieghi il comportamento. (…) Tuttavia, un’accettazione totale dell’indecifrabilità è anche un dono al potere istituzionale. (…) diverse correnti all’interno dell’IA hanno condiviso l’impegno per le falsificazioni epistemiche, per vedere il calcolo come una forza naturale, al di fuori della politica, che supera le capacità delle persone e rimane indecifrabile per loro. Mentre queste falsificazioni si sono manifestate in modo diverso in periodi diversi, in generale, il contesto storico della vita umana è stato sepolto. (Y. Katz, “Artificial Whiteness. Politics and Ideology in Artificial Intelligence” – traduzione in proprio)