In un dialogo con Elena Esposito, Fabrizio Barca elenca 4 esempi di effetti negativi dell’uso di algoritmi decisionali, riprendendoli per altro dalla saggistica in merito:

• discriminazione nella concessione del credito,
• sconvolgimento dei sistemi assicurativi,
• produzione di fake news,
• de-umanizzazione, in particolare nell’ambito delle relazioni afferenti ai servizi sociali.

Di originale vi sono le proposte di intervento:

• fare in modo che alcuni dati non siano accessibili, e osservare cosa ne risulta, conducendo un’analisi di sensività: osservare la risposta dell’algoritmo all’alterazione dei dati, per capire quali fattori pesano sulle predizioni e tenerne conto nell’impiego dell’algoritmo medesimo;
• imporre all’algoritmo dei valori, per esempio quelli dell’uguaglianza, per rilevare e rivelare discriminazioni nel credito;
• cambiare nettamente il peso dei parametri, introducendo per esempio valutando la capacità di un contenuto di determinare il massimo cambiamento di opinione in coloro che lo incontrano;
• cambiare la composizione dei team di programmatori.