Muldoon, Graham e Cant chiariscono:

Siamo connessi, che ci piaccia o no. Così come bere una tazzina di caffè coinvolge il bevitore di caffè in una rete di produzione globale dal chicco alla tazzina, dovremmo tutti capire come l’utilizzo di un motore di ricerca, di un chatbot – o anche di qualcosa di semplice come un robot aspirapolvere intelligente – metta in moto flussi globali di dati e capitali che connettono lavoratori, organizzazioni e consumatori in ogni angolo del pianeta. Molte aziende tecnologiche fanno quindi il possibile per nascondere la realtà di come vengono effettivamente realizzati i loro prodotti. Presentano una visione di macchine splendenti, eleganti e autonome – computer che cercano tra grandi quantità di dati, imparando da soli mentre procedono – piuttosto che la realtà del lavoro umano mal pagato ed estenuante che li addestra ed è gestito da loro. Ma le azioni che intraprendiamo come consumatori, attivisti e cittadini possono avere un impatto reale sulle condizioni di questi lavoratori e aiutarli nella loro lotta per un lavoro dignitoso. Questi lavoratori sono in prima linea in questi cambiamenti tecnologici, ma gli strumenti di sorveglianza e produttività abilitati all’intelligenza artificiale stanno arrivando per molti lavoratori, anche per coloro che potrebbero considerarsi immuni da tale invasione nella loro vita lavorativa. Il primo passo per agire è capire come viene prodotta l’IA e i diversi sistemi in gioco. Questo ci permette di vedere come l’intelligenza artificiale aiuti a concentrare il potere, la ricchezza e la capacità stessa di plasmare il futuro nelle mani di pochi eletti. (…) l’intelligenza artificiale è una “macchina di estrazione”. Quando interagiamo con i prodotti di intelligenza artificiale come consumatori, vediamo solo una superficie della macchina e gli output che produce. Ma sotto questo aspetto lucido si nasconde una complessa rete di componenti e relazioni necessarie per alimentarlo. La macchina di estrazione attinge input critici di capitale, energia, risorse naturali, lavoro umano, dati e intelligenza collettiva e li trasforma in previsioni statistiche, che le aziende di intelligenza artificiale, a loro volta, trasformano in profitti. Comprendere l’IA come una macchina significa smascherare le sue pretese di oggettività e neutralità. Ogni macchina ha una storia. Sono costruite da persone in un determinato periodo di tempo per svolgere un compito specifico. L’IA è incorporata nei sistemi politici ed economici esistenti e quando classifica, discrimina e fa previsioni lo fa al servizio di coloro che l’hanno creata. L’IA è un’espressione degli interessi dei ricchi e dei potenti che la usano per consolidare ulteriormente la loro posizione. (…) La colonialità fa parte della logica strutturante dell’intelligenza artificiale, sia nel modo in cui viene prodotta che in quella operativa. L’intelligenza artificiale è prodotta attraverso una divisione internazionale del lavoro digitale in cui le attività sono distribuite tra una forza lavoro globale, con i lavori più stabili, ben retribuiti e desiderabili situati nelle città chiave degli Stati Uniti e il lavoro più precario, sottopagato e pericoloso esportato ai lavoratori nelle località periferiche del Sud del mondo. I minerali critici necessari per l’intelligenza artificiale e altre tecnologie vengono estratti e lavorati in località in tutto il Sud del mondo e trasportati in speciali zone di assemblaggio per essere trasformati in prodotti tecnologici come i chip di intelligenza artificiale avanzati necessari per i modelli linguistici di grandi dimensioni. Queste pratiche continuano i modelli coloniali ben collaudati dei paesi occidentali che sfruttano il loro dominio economico e si arricchiscono estraendo minerali e manodopera dai territori periferici. I risultati dell’IA generativa rafforzano anche le vecchie gerarchie coloniali, poiché gran parte dei set di dati dell’IA e dei benchmark comuni su cui vengono addestrati questi modelli privilegiano le forme di conoscenza occidentali e possono riprodurre stereotipi dannosi e mostrare pregiudizi contro i gruppi minoritari travisati o distorti nei dati. (…) Sono soprattutto le grandi aziende in Europa e negli Stati Uniti che sono in grado di raccogliere i benefici del lavoro di alcune delle popolazioni più povere del mondo. Questo non è un errore; È esattamente il modo in cui la macchina è progettata per funzionare. (James Muldoon, Mark Graham, Callum Cant, “Feeding the Machine: The Hidden Human Labour Powering AI” – traduzione in proprio)

s13347-023-00687-8Download

Considerazioni di NotebookLM su alcune fonti:

• Il concetto di colonialità del potere descrive come i continui retaggi del colonialismo storico plasmano i sistemi economici, politici e sociali contemporanei. Questo concetto è stato applicato per comprendere le implicazioni etiche e sociali dell’intelligenza artificiale (IA).
• La colonialità dell’essere si basa sulla colonialità del potere e si concentra sull’impatto del colonialismo sull’esperienza vissuta e sulla comprensione di sé degli individui e dei gruppi colonizzati. Il concetto mette in luce come le strutture e le ideologie coloniali influenzano la soggettività, l’identità e le modalità di esistenza.
• Lo sviluppo e l’implementazione dell’IA sollevano preoccupazioni circa il colonialismo dei dati e il colonialismo algoritmico, che descrivono come i sistemi di IA possano perpetuare e amplificare le disparità e lo sfruttamento esistenti.
• Gli studiosi hanno identificato diverse aree in cui l’IA interseca la colonialità del potere, tra cui:
  • Catene di approvvigionamento coloniali dell’IA: la produzione di sistemi di IA si basa su una catena di approvvigionamento globale che spesso comporta lo sfruttamento della manodopera e l’estrazione di risorse dai paesi del Sud del mondo. Ciò riflette gli squilibri di potere economici e politici derivanti dal colonialismo storico.
  • Divisione internazionale del lavoro digitale: lo sviluppo dell’IA si basa spesso sul lavoro di annotatori di dati, valutatori e altri lavoratori nei paesi del Sud del mondo, che sono soggetti a condizioni di lavoro precarie e a salari bassi. Questo schema di lavoro riproduce gli squilibri di potere globali e avvantaggia le aziende tecnologiche occidentali.
  • Produzione di conoscenza egemonica: i sistemi di IA sono spesso sviluppati e implementati sulla base di valori e ipotesi occidentali, marginalizzando le conoscenze e le prospettive alternative. Ciò contribuisce alla perpetuazione delle epistemologie eurocentriche e limita il potenziale dell’IA per affrontare le sfide globali in modo equo e inclusivo.
• Per affrontare gli aspetti problematici dell’IA in relazione alla colonialità, gli studiosi propongono una pratica tecnica critica dell’IA. Ciò comporta l’integrazione di intuizioni dalle teorie decoloniali nella ricerca, progettazione, sviluppo e implementazione dell’IA.
• Gli elementi chiave di una pratica tecnica critica dell’IA includono:
  • Considerazione della correttezza algoritmica: garantire che i sistemi di IA non perpetuino o esacerbino i pregiudizi e le discriminazioni esistenti.
  • Priorità alla sicurezza dell’IA: affrontare non solo gli aspetti tecnici della sicurezza, ma anche le potenziali conseguenze sociali e i rischi associati ai sistemi di IA.
  • Promozione dell’equità e della diversità: garantire che lo sviluppo e l’implementazione dell’IA siano inclusivi e tengano conto delle esigenze di diverse comunità e popolazioni.
  • Coinvolgimento nella definizione delle politiche: lavorare con i responsabili politici per sviluppare quadri e regolamenti che promuovano un uso etico e responsabile dell’IA.
  • Esplorare l’IA come strumento di decolonizzazione: indagare come l’IA può essere utilizzata per sfidare le strutture coloniali e promuovere la giustizia sociale.
• La reciprocità e il tutoraggio inverso sono essenziali per decolonizzare l’IA. Imparare dalle comunità marginalizzate e incorporare le loro conoscenze ed esperienze nello sviluppo dell’IA può aiutare a mitigare i pregiudizi e promuovere risultati più equi ed equi.
• Il rinnovo delle comunità affettive e politiche è fondamentale per plasmare un futuro in cui l’IA sia utilizzata per il bene sociale e per contrastare i potenziali danni del colonialismo algoritmico. Ciò comporta la costruzione di solidarietà, la promozione dell’inclusione e la responsabilizzazione delle comunità nella definizione del modo in cui l’IA è progettata, implementata e regolamentata.
• Etiche Ubuntu: esplorare e integrare principi etici non occidentali, come le etiche Ubuntu, nello sviluppo e nella governance dell’IA. L’etica Ubuntu, radicata nella filosofia dell’Africa sub-sahariana, enfatizza l’interconnessione, la reciprocità e il benessere collettivo, offrendo una prospettiva alternativa all’individualismo e alla razionalità spesso associati ai quadri etici occidentali.
• Approcci indigeni all’IA: sostenere le iniziative guidate dalla comunità indigena per sviluppare e implementare l’IA in modi che siano in linea con i loro valori, conoscenze e priorità. Ciò include il riconoscimento della sovranità dei dati indigeni, la promozione di pratiche di progettazione partecipativa e il sostegno agli sforzi per preservare e rivitalizzare le lingue e le culture indigene.

Nel complesso, considerare l’IA all’interno della matrice coloniale del potere ci impone di confrontarci criticamente con i modi in cui i sistemi di IA possono perpetuare e amplificare le disparità e lo sfruttamento esistenti. Adoperando una pratica tecnica critica, promuovendo la reciprocità e il tutoraggio inverso e rinnovando le comunità affettive e politiche, possiamo lavorare per decolonizzare l’IA e garantire che sia utilizzata per creare un futuro più giusto ed equo per tutti.

Risposta salvata

Le risposte salvate sono di sola visualizzazione

Navigazione nella Colonialità: Una Guida alle Fonti

Fonte 1: Nelson Maldonado-Torres, “Sulla Colonialità dell’Essere” (Cultural Studies, 2007)

• Introduzione: Presentazione del concetto di colonialità dell’Essere come tema emergente negli studi sulla colonialità e decolonizzazione. L’autore spiega la sua attrazione verso questo concetto, influenzata dalla sua ricerca su Heidegger e la critica postcoloniale.
• Levinas e la Subversione Filosofica: Esplorazione del pensiero di Levinas come rottura radicale con la filosofia occidentale, con particolare attenzione all’etica e all’incontro con l’Altro come punto di partenza. L’autore sottolinea l’importanza di Levinas nell’ampliare il panorama filosofico con fonti e temi marginalizzati.
• Colonialità vs. Colonialismo: Definizione di colonialità come persistenza di schemi di potere coloniali ben oltre l’amministrazione coloniale, influenzando cultura, lavoro, relazioni intersoggettive e produzione di conoscenza.
• Emergere della Colonialità del Potere: Analisi della genesi della colonialità del potere attraverso la creazione di nuove identità (europeo, bianco, indigeno, nero, meticcio) e l’imposizione di una gerarchia basata sulla presunta umanità di tali identità.
• L’Ego Conquiro e il Dubbio Misantropico: Introduzione del concetto di “ego conquiro” come precursore del “cogito ergo sum” cartesiano. L’autore sostiene che la certezza del sé come conquistatore si basa su un dubbio misantropico nei confronti dell’umanità dei popoli colonizzati.
• Naturalizzazione della Non-Etica della Guerra: Argomentazione che la colonialità rappresenta una radicalizzazione e naturalizzazione della non-etica della guerra, normalizzando la violenza, lo stupro e la negazione dell’umanità dei soggetti colonizzati.
• Heidegger e la Dimensione Ontologica: Presentazione della filosofia di Heidegger con particolare attenzione alla distinzione tra Essere ed enti. L’autore critica Heidegger per non aver riconosciuto la colonialità dell’Essere, ovvero la differenziazione ontologica tra soggetti colonizzatori e colonizzati.
• La Differenza Coloniale Ontologica: Elaborazione della differenza coloniale ontologica, evidenziando la distinzione tra un sé con piena esistenza ontologica e un soggetto colonizzato la cui esistenza è negata o messa in dubbio.
• L’Esistenza Infernale e il Damné: Descrizione dell’esistenza infernale nel mondo coloniale, segnata dalla violenza, dalla minaccia costante di morte e dallo stupro. Introduzione del “damné”, soggetto privato della capacità di dare e ricevere, come prodotto della colonialità dell’Essere.
• Decolonizzazione e Des-gener-acción: Esplorazione del significato del “damné” come soggetto privato della capacità di dare. L’autore collega il concetto di colonialità dell’Essere alla soppressione della reciprocità e della generosità, proponendo la decolonizzazione e la “des-gener-acción” come vie per recuperare la dimensione trascendentale dell’etica.

Fonte 2: Shakir Mohamed, Marie-Therese Png e William Isaac, “IA Decoloniale: La Teoria Decoloniale come Previsione Sociotecnica” (Philosophy & Technology, 2020)

• Valori e Conoscenza Scientifica: Sottolineatura dell’influenza dei valori sulla conoscenza scientifica, distinguendo tra valori epistemici e contestuali. Si afferma che i valori contestuali, come quelli morali e sociali, giocano un ruolo legittimo nella ricerca scientifica e tecnologica.
• Colonialità e Teoria Decoloniale: Introduzione alla decolonizzazione come processo che mira a smantellare le strutture di potere coloniali. Si distinguono la decolonizzazione territoriale e strutturale, concentrandosi su quest’ultima come processo di decostruzione di schemi di potere, economici, linguistici e culturali.
• Prospettive Decoloniali: Analisi di tre prospettive decoloniali: decentramento, riappropriazione e tutela inversa.
• Limitazioni della Teoria Decoloniale: Discussione delle critiche alla teoria decoloniale, come la tendenza alla semplificazione binaria (metropoli/periferia) e l’uso di meta-narrazioni storiche.
• Colonialità Digitale: Esplorazione della colonialità nel contesto digitale, con particolare attenzione al ruolo dei dati come risorsa sfruttata per l’espansione economica e il perpetuarsi di schemi coloniali.
• Siti di Colonialità nell’IA: Identificazione di tre siti di colonialità nell’IA: sistemi di decisione algoritmica, governance dell’IA e lavoro nell’IA.
• Sistemi di Decisione Algoritmica: Analisi dei rischi di ingiustizia sociale e pregiudizi amplificati dai sistemi di decisione algoritmica, con esempi concreti di violazione dei diritti umani digitali.
• Governance dell’IA: Critica alla concentrazione del potere decisionale nella governance dell’IA, escludendo le voci dei paesi del Sud del mondo e perpetuando le dinamiche coloniali.
• Lavoro nell’IA: Denuncia dello sfruttamento del lavoro, spesso invisibile, che alimenta l’industria dell’IA, collegandolo a dinamiche di colonialità.
• Tutela Inversa: Proposta della tutela inversa come strategia decoloniale per sfidare le gerarchie di conoscenza nell’IA, promuovendo un dialogo bidirezionale e una rivalutazione delle epistemologie marginalizzate.
• Modalità di Tutela Reciproca: Presentazione di tre modalità per attuare la tutela reciproca: dialogo, documentazione e design.

Fonte 3: James Muldoon e Boxi A. Wu, “L’Intelligenza Artificiale nella Matrice Coloniale del Potere” (Philosophy & Technology, 2023)

• Introduzione: Panoramica dei progressi nell’intelligenza artificiale (IA) e nell’apprendimento automatico (ML), con particolare attenzione ai modelli su larga scala e alle loro applicazioni.
• Impatto Ambientale dell’IA: Analisi dei costi ambientali della produzione e dell’utilizzo dell’IA, come l’aumento della domanda di terre rare e il conseguente impatto sull’ambiente e sulle comunità del Sud del mondo.
• Geopolitica dell’Estrazione Mineraria: Discussione del legame tra l’IA e l’estrazione mineraria, evidenziando come la domanda di risorse per l’IA alimenti dinamiche coloniali di sfruttamento e dipendenza.
• Colonialità dei Dati: Analisi della colonialità dei dati utilizzati per addestrare i modelli di IA, sottolineando la presenza di pregiudizi sociali e l’esclusione di soggettività marginalizzate.
• Bias nei Dataset: Critica ai bias presenti nei dataset di IA, che perpetuano stereotipi e discriminazioni, con esempi concreti come il riconoscimento facciale e la generazione di testo.
• Potere Sociale degli Algoritmi: Discussione del potere sociale degli algoritmi nel riordinare il mondo sociale, evidenziando il ruolo dei creatori di IA nel perpetuare o sfidare le strutture di potere coloniali.