Tre esempi di riflessione sull’IA con attenzione alla giustizia sociale

Riprendendo Manouach e Engelhardt, Galanos e Stewart individuano:

  • ‘Crip AI’: ispirato alla progettazione dell’ingegneria della mobilità, essendo un approccio all’IA che è ‘comprendere e lavorare con attrito’, resistendo ‘all’automazione dell’accessibilità’ e valorizzando invece “la cura e l’esperienza fornite dagli esseri umani nella loro interfaccia con le macchine” (…); [contrasta la filosofia di soluzionismo tecnologico, che immagina un futuro senza attriti, perché senza disabilità. Invece di richiedere la costruzione di rampe e ascensori negli spazi pubblici, di offre una soluzione privata al problema dell’accesso, con una una pratica progettuale che cancella (e depoliticizza) la disabilità dal nostro futuro;
  • “IA indigena”: in mancanza di una definizione specifica, certamente perché “non esiste un’unica “prospettiva indigena””, questo approccio sottolinea l’importanza di coinvolgere i modi di pensare, essere e apprendere indigeni sottorappresentati nelle tecniche, nelle applicazioni e nelle metodologie dell’IA, specifiche per luoghi e contesti, e in relazione alle specie non umane (…); [“Come possiamo ampliare le discussioni sul ruolo della tecnologia nella società al di là dei laboratori di ricerca culturalmente omogenei e della cultura delle startup della Silicon Valley?”, “Come immaginiamo un futuro con l’intelligenza artificiale che contribuisca allo sviluppo di tutti gli esseri umani e non umani? ”. È attraverso le ontologie indigene (definizioni dell’essere) che le nostre relazioni con il mondo vengono attuate in modo etico, riducendo i danni a noi stessi, alle nostre comunità e ai nostri ambienti.]
  • “IA tattica”:[ contrastare le pratiche di IA che “servono agende amministrative e manageriali […] spesso al servizio del capitale, e spesso al fine di frenare elementi divergenti all’interno di un dato sistema”, l’IA tattica “si manifesta in modo oppositivo, diversivo e critico con approcci che resistono alle implementazioni strategiche delle tecnologie di IA”, che a volte comportano “l’hacking o il reverse engineering dell’IA tradizionale” (…)[l’IA tattica opera da posizioni dinamiche all’interno dei sistemi che sfida. Piuttosto che perseguire l’ossificazione in posizioni di dominio strategicamente vantaggiose, funziona lungo vettori di resistenza indefiniti. Nei contesti artistici dell’intelligenza artificiale, gli approcci tattici resistono alla scatola nera della conoscenza, all’offuscamento dei processi computazionali, alla restrizione dell’accesso alla tecnologia e all’amplificazione algoritmica delle prospettive di sfruttamento dell’azione.

(fonte: Galanos V. and Stewart J.K., “Navigating AI beyond hypes, horrors and hopes: historical and contemporary perspectives”, in Ponce del Castillo A. (ed.) “Artificial intelligence, labour and society”, ETUI – traduzione in proprio)

Louise Hickman: Crip AI – Towards disability led-design

L’importanza del Design Guidato dalla Disabilità nell’Intelligenza Artificiale, di YouTubeDigest

Introduzione

Nell’estate scorsa, il governo del Regno Unito ha reclutato un algoritmo mutante per prevedere i voti degli esami. Ci è stato detto che l’algoritmo potrebbe offrire il modello più equo possibile per valutare i voti degli studenti. Tuttavia, i risultati di queste decisioni hanno causato danni per molti studenti, soprattutto per coloro che erano già emarginati a causa della loro razza, etnia, disabilità e classe sociale. Questa storia è solo un esempio di come l’intelligenza artificiale (IA) abbia dimostrato di mostrare pregiudizi nella valutazione degli esami degli studenti.

Il Ruolo del Design Guidato dalla Disabilità

La mia ricerca, condotta presso la London School of Economics e il LSE, mira a migliorare l’IA utilizzando qualcosa chiamato design guidato dalla disabilità. Questo significa che il mio lavoro esamina lo spazio tra il codice e le persone e tutte le loro esperienze vissute. Come può la disabilità cambiare il modo in cui scriviamo il codice?

Ritorno agli Anni ’70: Gregory Bateson

Per comprendere questa domanda, torniamo agli anni ’70, quando incontriamo il professor Gregory Bateson, uno studioso di cibernetica che ha esaminato la comunicazione tra macchine e esseri viventi. Bateson ci ha fatto riflettere su un cieco che cammina con il suo bastone. Dove inizia il sé della persona cieca? Il cervello della persona, le mani, la punta del bastone? Bateson ci ha spinto a considerare il ciclo di feedback tra il cieco, il bastone e l’ambiente.

L’Importanza del Ciclo di Feedback Sociale

Algoritmi e IA sono simili al bastone del cieco: non funzionano da soli, ma sono parte di un ambiente in continua evoluzione. L’IA ha bisogno di questo codice per interpretare la realtà e noi possiamo cambiare il codice in base alla nostra percezione dell’ambiente. Ma chi scrive questo ciclo di feedback?

L’Importanza delle Prospettive Diverse

La mia ricerca ha mostrato che esistono molte persone interessate a plasmare il modo in cui si codifica il linguaggio parlato. Ad esempio, i fonografi, noti anche come sottotitolatori in tempo reale, trascrivono il discorso in testo per le persone sorde e ipoudenti. Questi professionisti possono catturare conoscenze locali e azioni regionali, riparare sottotitoli errati e adattarsi a cambiamenti dinamici, cosa che gli algoritmi automatizzati faticano a fare.

L’Applicazione del Design Guidato dalla Disabilità

I sistemi di sintesi vocale automatizzati dovrebbero essere sviluppati per lavorare con i trascrittori umani, non come loro sostituti. Creare tali sistemi richiederebbe un design guidato dalla disabilità, poiché abbiamo bisogno di una gamma diversificata di voci per plasmare il modo in cui codifichiamo e affrontiamo l’apprendimento automatico.

Conclusioni

In conclusione, l’IA, l’apprendimento automatico e gli algoritmi non possono sempre essere applicati in modo rigido, poiché l’ambiente e ciò che accade in quegli ambienti cambia costantemente. Abbiamo bisogno di una vasta gamma di voci per plasmare il modo in cui affrontiamo l’apprendimento automatico, e il design guidato dalla disabilità può aiutarci in questo processo. Questo approccio cerca di costruire su esperienze di persone disabili per creare sistemi tecnologici che possano aiutarli a navigare per le strade, anziché essere automaticamente guidati da esse.