• analisi predittive,
• profilazioni discriminatorie,
• strumenti pseudoscientifici per la valutazione di stati emotivi

Vengono testati alle frontiere sulle persone più fragili e meno in grado di opporsi.

Il problema, come ha fatto notare Amnesty International, è che «l’uso dell’IA nel campo della vigilanza, della sicurezza e dell’immigrazione apre le porte all’ingerenza del settore privato in alcuni aspetti decisivi della governance pubblica», intaccando il pro-cesso democratico e indebolendo le istituzioni. Se a tutto ciò aggiungiamo una profonda mancanza di trasparenza nei processi normativi europei, oltre a un evidente suscettibilità all’ingerenza da parte dell’industria, i diritti umani fondamentali ne escono immanca-bilmente compromessi. L’accordo quadro basato sui rischi varrà ben poco di fronte ai tecnicismi usati per i casi più pericolosi. Oltre a tutto questo, l’altisonante panico sull’imminente «fine dell’umanità» e sul suo presunto rimpiazzo a opera dell’Intelligenza artificiale non fa altro che distrarre dalle modalità dannose e azzardate in cui questa viene impiegata dai governi e dalle grandi aziende sotto i nostri occhi. Troppo spesso si presume che l’IA, allo stato attuale delle cose, non sia regolamentata. In realtà esiste un’ampia gamma di normative già esistenti in tutta Europa che potrebbero essere applicate per rimodellare lo sviluppo della tecnologia in direzione del benessere generale delle persone e non dell’accumulo di maggiori profitti. Rimane tuttavia un problema strutturale: questi sistemi privatizzano i guadagni e socializzano le perdite in modi nebulosi e complessi. Di fronte a un’industria dalle risorse tanto grandi e così ben posizionata per sfuggire a responsabilità legali e sociali, il compito di resistere e prevenire i pericoli procurati dall’Intelligenza artificiale non potrà che ricadere sui movimenti per la giustizia sociale.

(fonte: L. O’Shea, “L’allarme dell’Ue servirà a poco”, in Jacobin Italia 23/2024)