Riflettendo sulle linee guida per l’etica dell’AI – i cui temi ricorrenti sono trasparenza, giustizia ed equità, non maleficenza; responsabilità, privacy- Casilli è netto:

l’IA etica è coerente con la tradizione della scienza che affronta le esigenze del settore senza mettere in discussione le motivazioni aziendali. Le linee guida esistenti sono sviluppate da o con il contributo di aziende tecnologiche. Come altro mezzo per servire lo status quo industriale, gli esperti di etica dell’IA si riferiscono agli ingegneri d’élite come arbitri di “pregiudizi”, escludendo studiosi e sostenitori che denunciano le dinamiche di potere e gli squilibri economici. Meredith Whittaker suggerisce che gli attori aziendali utilizzino l’IA etica per “cooptare e neutralizzare le critiche”. Ciò viene fatto in parte finanziando i “critici più deboli, spesso istituzioni e coalizioni che si concentrano sulla cosiddetta etica dell’IA e inquadrano le questioni del potere e del dominio tecnologico come questioni astratte di governance” (…). Il coinvolgimento implicito o esplicito delle aziende nell’etica dell’IA colma l’attuale vuoto normativo e, in ultima analisi, contribuisce ad esso. L’enfasi sull’etica interna dell’IA impedisce lo sviluppo di standard e meccanismi di applicazione obbligatori per legge. L’industria tecnologica presume di poter formulare norme etiche per l’IA e garantirne la conformità, ma l’assenza di qualsiasi discussione sui modi efficaci per far rispettare gli standard etici in queste carte dimostra che questa ipotesi non regge. Anche quando i principi etici sono resi operativi attraverso strumenti specifici, non riescono ad affrontare gli squilibri esistenti (…) Ammettere che i discorsi sull’etica dell’IA sono collegati agli interessi commerciali delle aziende tecnologiche è il primo passo verso il riconoscimento che l’IA è prodotta industrialmente utilizzando risorse umane e naturali (…) [Le] carte etiche dell’IA (…) implicitamente presuppongono che assistenti vocali, motori di raccomandazione e auto a guida autonoma sollevino preoccupazioni etiche solo quando i consumatori li utilizzano. Come in altre aree della ricerca sociopolitica sull’IA, l’etica ha storicamente posto l’accento sui possibili effetti della tecnologia solo nelle fasi di implementazione e commercializzazione. [Questo mentre il] processo di produzione alla base dell’IA (…) richiede anche un vasto esercito di lavoratori nascosti. Alcuni si riferiscono a questi come “lavoratori dei dati” poiché gestiscono le informazioni; altri come “microlavoratori” poiché i loro compiti sono frammentati e sono considerati meno importanti di quelli dei data scientist e degli sviluppatori di software. (…) A quali condizioni questi lavoratori umani vengono assunti, retribuiti, gestiti e agevolati nell’esercizio dei loro diritti? (…) Nonostante l’alto valore che l’industria dell’IA attribuisce alla sua forza lavoro visibile di sviluppatori di software, data scientist e ingegneri informatici, tende a ignorare e a rendere invisibili i suoi microlavoratori di livello inferiore che sono indispensabili, nonostante svolgano compiti di dati ripetitivi e spesso non qualificati. Sono questi esseri umani invisibili che intervengono in varie fasi del processo di sviluppo dei modelli di machine learning: l’addestramento iniziale dei modelli (generazione e annotazione dei dati); la verifica della loro risultati dopo l’implementazione; e, talvolta, l’esecuzione della correzione in tempo reale o dell'”impersonificazione” dei sistemi di IA (…) Ci sono state molte aziende emergenti che sono entrate in questo mercato da quando Mechanical Turk è stato lanciato. Oltre all’australiana Appen, all’americana Remotasks o alla tedesca Clickworker, diverse piattaforme internazionali forniscono servizi di microworking on demand. Le multinazionali tecnologiche hanno creato i propri servizi di microworking in cui agiscono come unico reclutatore, come l’UHRS (Universal Human Relevance System) di Microsoft e il RaterHub di Google. Le aziende che operano come fornitori di BPO (Business Process Outsourcing) possono anche reclutare lavoratori per i loro clienti in paesi in cui la forza lavoro è più economica, come l’India o il Venezuela. Tra questi ci sono alcune aziende e piattaforme molto grandi; altri sono più piccoli e talvolta specializzati, ad esempio IsAHit e Wirk in Francia. Alcune start-up più piccole sono state acquisite da aziende più grandi, come Mighty AI, dedicata all’industria automobilistica e acquisita da Uber Advanced Technologies Group nel 2019. Successivamente, l’intera ATG è stata acquisita da una startup, Aurora, di cui Uber detiene una quota di proprietà del 40%. Le aziende, le piattaforme e le startup sono tutte coinvolte in accordi complessi, il che dimostra che le aziende tecnologiche devono essere agili. Un gran numero di intermediari deve essere utilizzato dagli sviluppatori di IA per reclutare lavoratori usa e getta (…) I microlavoratori raramente figurano sul libro paga: in genere, le piattaforme li vincolano attraverso contratti di adesione o partecipazione simili ai termini generali di servizio che vengono regolarmente accettati dai consumatori di servizi Internet e app mobili. [La situazione dei micro-lavoratori] Ciò contraddice alcuni dei principi fondamentali delineati nelle carte etiche dell’IA discusse sopra, tra cui l’equità, la giustizia e la trasparenza e persino la privacy, poiché ai lavoratori viene talvolta chiesto di fornire dati personali, come selfie e registrazioni vocali, per la creazione di set di dati di apprendimento automatico. L’industria non è nemmeno in grado di soddisfare i propri standard, indipendentemente da quanto vaghi possano essere in primo luogo. (…) . La maggior parte dei microlavoratori si trova nel Sud del mondo, nonostante siano i paesi del Nord del mondo ad aver attirato la maggior parte dell’attenzione della ricerca (…) La forza lavoro dell’America Latina serve i produttori di tecnologia in Nord America (in particolare negli Stati Uniti) e in Europa. Dal Sud e Sud-Est asiatico, il lavoro si sposta principalmente in Nord America, ma anche in Cina. L’Africa fornisce dati all’Europa e alla Cina. Quest’ultima ha consistenti flussi interni, nonostante la scarsa conoscenza di essi, così come l’Europa (con alcuni flussi est-ovest) e gli Stati Uniti. (…) Affinché l’IA sia efficace, deve rispettare l’ambiente naturale in cui vengono utilizzate le risorse e l’ambiente umano in cui viene prodotta la manodopera, il che spiega perché negli ultimi anni si è assistito a un aumento dell’attenzione ai costi ambientali dell’IA. La sfida è stata affrontata in due modi fondamentalmente diversi: quantificando l’impronta di carboniodei processi computazionali; e denunciando la logica estrattivista sottesa all’industria tecnologica. (…) , l’eccessivo affidamento su concetti come “ambiente”, “clima” ed “energia” oscura il concreto substrato umano e materiale che sta sostenendo la trasformazione delle risorse naturali in IA. Altri ricercatori hanno così sviluppato una prospettiva teorica più radicale incentrata sull’estrattivismo digitale per analizzare la materialità dell’IA, la sua dipendenza dalle risorse naturali e i suoi legami con il capitalismo (…) Piuttosto che riferirsi all’estrazione come a un saccheggio delle risorse naturali, usano la nozione per descrivere come il capitale interagisce e attinge all’attività umana, politica, economica e sociale. Nel capitalismo contemporaneo, l’estrattivismo è onnipresente e abbraccia non solo i settori tradizionali come la logistica e l’agricoltura, ma anche le attività immateriali come la finanza. (…) Una mappa dei luoghi in cui viene estratta la maggior parte delle risorse naturali per l’industria dell’IA si sovrappone in modo significativo alle traiettorie dei flussi di microlavoro. (…) Le informazioni e i contenuti che circolano dai server remoti ai nostri schermi non sono prodotti solo da attività di elaborazione dei dati. Invece, ruotano attorno all’estrazione e al trasporto dei minerali utilizzati nell’elettronica (…) L’IA etica end-to-end richiede una considerazione delle condizioni di produzione dei dati, degli strumenti e delle attrezzature utilizzate per fabbricare e commercializzare questi sistemi. (…) Un’azienda è considerata etica se rispetta i diritti dei lavoratori, offre condizioni di lavoro dignitose e riduce al minimo il proprio impatto ambientale. Allo stesso modo, un’IA etica deve ridurre al minimo le esternalità negative sia all’interno che all’esterno delle comunità umane e lo stesso per quanto riguarda i suoi processi produttivi (…) Tenere conto dei contesti umani, sociali, politici ed economici delle odierne tecnologie di IA può fornire nuove intuizioni e suggerire direzioni per l’azione futura. È importante proteggere i diritti dei lavoratori dell’IA a distanza. Dovrebbero essere in grado di resistere a condizioni inadatte, se ne hanno l’opportunità. Dovrebbero essere in grado di protestare contro i sistemi tecnologici che considerano eticamente problematici e dovrebbero essere in grado di rifiutarsi di contribuirvi. In uno scenario del genere, l’etica dell’IA si sposta dalla promozione degli interessi dei produttori-proprietari alla promozione dell’azione etica dei produttori-lavoratori. Affinché ciò abbia successo, è necessario riconoscere il lavoro invisibile di preparazione, verifica e impersonificazione dei sistemi automatizzati al fine di stabilire un approccio più forte e fondamentale all’etica dell’IA. (A. Casilli, “‘End-to-end’ ethical AI. Taking into account the social and natural environments of automation”, in “Artificial Intelligence, Labour and Society” – traduzione in proprio)