Pattern, pseudo-neutralità e conflitto latente

Affermano D’Abbraccio e Facchetti:

Rappresentare i dispositivi di pattern recognition come tecnologie neutrali consente di trarre profitto dal l’opacità della black box, dato che equivale a nascondere e a naturalizzare le frizioni e le tensioni in essere al suo interno. E questo non è un caso. L’ideologia che propone l’AI come uno strumento neutrale e oggettivo è la stessa che domina da alcuni decenni era una buona parte del discorso politico e istituzionale contemporaneo. (…) [Si tratta del] modello neoliberista che è diventato ormai fondamento delle moderne democrazie occidentali (…): [alla neutralità e libertà del mercato conseguono quelle dell’AI]. I dispositivi di pattern recognition sono in grado di imparare come sono distribuiti statisticamente i dati. Per fare ciò, essi costruiscono una rappresentazione latente dei pattern, interna alla black box e dunque non direttamente fruibile dall’operatore umano. Successivamente operano su questa rappresentazione, decodificando tali pattern in classi comprensibili per gli umani che vi si interfacciano. Ma questi pattern possono essere decodificati anche con una finalità diversa, che potremmo definire di sintesi, per generare nuove rappresentazioni verosimili (predizioni, immagini, testi, ecc.) in base alla distribuzione precedentemente appresa. In altre parole, il modello che riconosce il volto di una persona in un database fotografico è sostanzialmente lo stesso che genera immagini realistiche di individui mai esistiti. Piuttosto che configurarsi come modello di interpretazione della realtà, l’intelligenza artificiale diventa in questo caso uno strumento per operare su di essa. Dai sistemi predittivi alle GAN, dai software di Deep fake ai “curatori algoritmici”, l’intelligenza artificiale incide attivamente sull’ecosistema globale, influenzando l’andamento dei conflitti in atto e alimentandone di nuovi. (F. D’Abbraccio – A. Facchetti, “Introduzione” – “AI & Conflicts 01”, Krisis Publishing)