Atanasoski e Vora invitano a riflettere:

Le gerarchie storiche che categorizzano l’intelligenza umana sono profondamente radicate nella storia molto più lunga delle relazioni coloniali europee di sfruttamento delle risorse e delle popolazioni del Sud del mondo. Secoli di colonialismo europeo sono stati moralmente autorizzati dall’idea che gli europei avanzati (più “intelligenti”) stessero “aiutando” coloro che non erano in grado di governarsi da soli, o che non erano in grado di usare razionalmente o efficientemente le proprie risorse. (…) Piuttosto che semplici echi di passati progetti di eugenetica (alcuni dei quali, come il nazionalsocialismo in Germania, sono diventati veri e propri genocidi), le visioni mainstream dell’AGI si inseriscono nel solco di una storia di pratiche per identificare e misurare l’intelligenza come modo per giustificare il trattamento di intere popolazioni di persone in modo disumanizzante. La ricerca e la pratica dell’Intelligenza Artificiale incentrate su risultati femministi non solo ci consentono un approccio più ampio agli impatti sociali, ma anche modalità creative di progettazione dell’Intelligenza Artificiale che interrompono e potenzialmente capovolgono queste gerarchie. (N. ATANASOSKI, K. VORA, “L’IDEOLOGIA RAZZIALE DIETRO L’IA“, in Micromega 6/2024)

l’IA può anche essere vista come un privilegio per i modi occidentali di categorizzare e comprendere il mondo. L’intelligenza artificiale classifica e discrimina in base alla progettazione, e tali sistemi di classificazione sono l’ultimo sviluppo di un progetto culturale europeo e di un sistema di conoscenza. Il progetto scientifico occidentale, con le sue pretese di validità oggettiva e universale, è stato storicamente collegato all’imposizione dei valori e dei modi di vita europei sui popoli colonizzati. Un privilegio di questa forma di conoscenza può essere fatto risalire all’Illuminismo del XVII secolo e include studi antropologici occidentali centrici e pratiche di raccolta dati su altri popoli. Questi quadri concettuali cercano di descrivere il mondo come un insieme di verità universali e ordinate e rivendicano una validità globale, ma esprimono una visione del mondo europea limitata. Questo è ciò che gli studiosi decoloniali latinoamericani come Aníbal Quijano chiamano la “colonialità della conoscenza”, un quadro eurocentrico che maschera una pratica locale di comprensione del mondo come una pratica universale e superiore a tutte le altre. (J. Muldoon, M. Graham, C. Cant, “Feeding the machine. The hidden human labour powering AI” – traduzione in proprio)

Interviene NotebookLM:

Questo articolo analizza il concetto di “intelligenza artificiale femminista” (IAF), esplorandone la storia e le manifestazioni contemporanee. L’autrice traccia una microstoria dell’IAF, partendo dal lavoro di Alison Adam e delle sue studentesse, per poi proporre una tipologia che comprende l’IAF come modello, design, politica, discorso, cultura e scienza. Vengono esaminati diversi progetti e pratiche che incarnano l’IAF, evidenziando sia i progressi che le contraddizioni interne a questo approccio critico all’intelligenza artificiale. Infine, l’articolo discute i limiti dell’IAF, che rimane ancorata a un ambito tecno-liberale e non riesce a sfidare completamente le strutture di potere esistenti.

Come la FAI ridefinisce la comprensione e la pratica dell’intelligenza artificiale?

Ecco un’analisi approfondita di come la FAI ridefinisce la comprensione e la pratica dell’intelligenza artificiale (IA), basata sulle fonti fornite:

Ridefinire l’IA: l’approccio della FAI

La FAI (Intelligenza Artificiale Femminista) sta rimodellando sia la nostra comprensione che l’applicazione pratica dell’IA, allontanandosi dai modelli tradizionali che spesso perpetuano pregiudizi di genere e discriminazione. Le fonti evidenziano diverse sfaccettature di questo cambiamento:

1. Mettere in discussione la definizione di “intelligenza”:

• La FAI si basa sulle critiche femministe all’IA, nate negli anni ’80 con l’affermarsi delle prospettive costruttiviste nella filosofia e nella sociologia della scienza, nonché negli studi femministi su scienza e tecnologia (FSTS).
• Queste critiche mettevano in luce come le discussioni occidentali sulla scienza fossero incomplete e distorte a causa dell’esclusione delle conoscenze femminili.
• Alison Adam, informatica britannica e storica della scienza, ha criticato l’IA da una prospettiva femminista, evidenziandone le basi profondamente conservatrici.
• Adam ha messo in discussione l’approccio epistemologico e filosofico dell’IA alla definizione di “intelligenza”, criticando il modello di razionalità che privilegia una forma disincarnata di IA.
• Atanasoski e Vora, nel loro libro “Surrogate Humanity”, sostengono che il desiderio di un’IA femminista nasce da un desiderio tecnoliberale di inclusione e che, per essere veramente femminista, l’IA dovrebbe puntare a sovvertire le categorie di utilizzo, proprietà e autopossesso, piuttosto che cercare di rimediare attraverso l’inclusione.

2. Concentrarsi sulla progettazione inclusiva e partecipata:

• La FAI pone un’enfasi significativa sul coinvolgimento di attori diversificati nella creazione di sistemi di IA, assicurando una rappresentazione più equa e la considerazione di una gamma più ampia di prospettive.
• Il progetto “Feminist Data Set” di Caroline Sinders esemplifica questo approccio, invitando le femministe a collaborare alla creazione di un set di dati composto da opere che rappresentano la molteplicità dei femminismi.
• Questo processo lento e deliberato contrasta con l’approccio “black box” dei progetti di apprendimento automatico su larga scala guidati dalle aziende, evidenziando l’importanza di considerare attentamente la provenienza e l’etichettatura dei dati.
• Il software Poieto, sviluppato da Christine Meinders, mira a integrare la cultura come elemento chiave nella progettazione di IA, considerando la cultura dei creatori, degli utenti e il contesto sociale più ampio in cui vengono sviluppati gli strumenti di IA.

3. Promuovere politiche inclusive e attente al genere:

• La FAI sta emergendo come una questione di politica internazionale per lo sviluppo, con un’enfasi sull’adozione dell’IA nei paesi in via di sviluppo e sulla necessità di garantire che le donne non siano escluse dai presunti benefici economici.
• Il “Feminist AI Research Network (f < a + i > r)”, finanziato dal Centro di ricerca per lo sviluppo internazionale del Canada (IDRC), è un esempio di come la FAI venga integrata nelle politiche per promuovere la parità di genere e l’inclusione nei progetti di IA.
• Questo progetto finanzia ONG per i diritti digitali che mettono al centro le donne e le persone LGBTQI+ del Sud del mondo come attori chiave nello sviluppo della FAI.

4. Rivalutare il discorso attorno all’IA:

• La FAI sta rimodellando il discorso sull’IA, spostando l’attenzione dalla semplice equità, responsabilità e trasparenza verso un focus sulla rimediazione.
• Sarah Myers West sostiene che la rimediazione, intesa come il lavoro di riparare i danni causati dai sistemi di IA dannosi, offre un’alternativa più potente rispetto al semplice tentativo di rendere gli algoritmi imparziali e inclusivi.
• Questo cambiamento nel discorso evidenzia la necessità di affrontare le dimensioni sistemiche e strutturali della discriminazione.

5. Riconoscere l’IA come cultura:

• La FAI si basa sulla comprensione della tecnologia come cultura, riconoscendo che la tecnologia porta l’impronta delle persone e del contesto sociale in cui si è sviluppata.
• Judy Wajcman, nel suo libro “Feminism Confronts Technology”, sostiene che l’esclusione delle donne dalla tecnologia può essere spiegata analizzando la tecnologia come una cultura che esprime e consolida le relazioni tra uomini.
• Questo approccio evidenzia l’influenza dei fattori culturali sull’interesse e la partecipazione delle donne alla tecnologia.

6. Esplorare l’intersezione tra FAI e scienza:

• La FAI come scienza si concentra sulla ricerca sull'”intelligenza” da prospettive femministe, mettendo in discussione le definizioni tradizionali e i modelli di intelligenza.
• Atanasoski e Vora offrono una critica stimolante, sostenendo che un’intelligenza femminista dovrebbe puntare a sovvertire le categorie che costituiscono il soggetto liberale, piuttosto che cercare di riformarle attraverso l’inclusione.

In sintesi, la FAI sta ridefinendo la comprensione e la pratica dell’IA in modi significativi, promuovendo un approccio più inclusivo, equo e socialmente consapevole. Sebbene la FAI si trovi ancora in una fase iniziale di sviluppo, il suo potenziale per creare sistemi di IA più giusti e benefici per tutti è innegabile.

Quali sono le implicazioni politiche e sociali della FAI nel mondo digitale?

Implicazioni politiche e sociali della FAI nel mondo digitale

Le implicazioni politiche e sociali della FAI (intelligenza artificiale femminista) nel mondo digitale sono molteplici e complesse. Le fonti presentano diverse prospettive su come la FAI può essere intesa e quali siano i suoi obiettivi, evidenziando al contempo alcune delle sfide e contraddizioni insite in questo campo.

In generale, la FAI mira a sfidare i sistemi di intelligenza artificiale tradizionali, che spesso riflettono e amplificano i pregiudizi di genere esistenti nella società. Questo può avvenire in diversi modi, ad esempio:

• Includendo più donne e persone di gruppi marginalizzati nel processo di progettazione e sviluppo dell’IA.
• Utilizzando dati più inclusivi e rappresentativi per addestrare gli algoritmi di IA.
• Sviluppando sistemi di IA che tengano conto delle specifiche esigenze e sfide delle donne e di altri gruppi marginalizzati.

Le fonti sottolineano che la FAI non si limita a rendere i sistemi di IA più “giusti” o “equilibrati”, ma mira a una trasformazione più profonda del modo in cui l’IA viene concepita e utilizzata. Alcuni autori sostengono che la FAI dovrebbe concentrarsi sulla “riparazione” dei danni causati dai sistemi di IA discriminatori, piuttosto che sulla semplice “correttezza” degli algoritmi. Altri mettono in discussione l’idea stessa di “intelligenza femminista”, sostenendo che la FAI dovrebbe mirare a “distruggere” le categorie che costituiscono il soggetto liberale, piuttosto che cercare di essere inclusiva all’interno di queste categorie.

Le fonti presentano anche alcuni esempi concreti di come la FAI viene messa in pratica. Questi esempi mostrano che la FAI può assumere diverse forme, dai chatbot progettati per affrontare questioni specifiche come la violenza di genere, ai sistemi di IA che aiutano le donne a ottenere giustizia in casi di discriminazione.

Tuttavia, le fonti evidenziano anche alcune delle sfide e contraddizioni insite nella FAI.

• Uno dei problemi principali è che la FAI rimane spesso confinata all’interno della sfera “tecnoliberale” dell’inclusione, senza sfidare in modo significativo i sistemi di potere esistenti.
• Inoltre, alcuni progetti di FAI finiscono per replicare gli stessi pregiudizi di genere che cercano di combattere.
• Infine, l’enfasi sulla FAI come soluzione tecnologica ai problemi sociali rischia di oscurare la necessità di un cambiamento sociale e politico più ampio.

In conclusione, la FAI ha il potenziale per portare a un cambiamento positivo nel mondo digitale, ma è importante essere consapevoli delle sue limitazioni e sfide. È necessario un approccio critico e riflessivo alla FAI, che tenga conto delle sue implicazioni politiche e sociali e che non la consideri una soluzione magica ai problemi di genere.

In che modo la FAI sfida le norme e le strutture di potere esistenti?

La sfida della FAI alle norme e alle strutture di potere

L’intelligenza artificiale femminista (FAI) sfida le norme e le strutture di potere esistenti in vari modi, principalmente mettendo in discussione la natura stessa dell’intelligenza artificiale (AI) e i suoi obiettivi.

• Le fonti mostrano come la FAI si opponga al tradizionale approccio all’AI, dominato da una prospettiva razionalista e maschilista.
• La FAI mira a smantellare l’idea che l’AI sia una soluzione tecnologica neutrale e oggettiva ai problemi sociali ed economici.
• Al contrario, la FAI riconosce che l’AI è intrinsecamente plasmata da relazioni di potere e può perpetuare le disuguaglianze esistenti se non viene progettata e implementata in modo critico e responsabile.

Ecco alcuni esempi concreti di come la FAI sfida le norme e le strutture di potere:

1. Inclusione e partecipazione: La FAI promuove l’inclusione di attori diversi nella creazione dell’AI, coinvolgendo le comunità in progetti di dati e AI su piccola scala e a ritmo lento. Questo approccio contrasta con la logica aziendale che domina lo sviluppo dell’AI, spesso guidata da interessi di profitto e poco attenta alle implicazioni sociali ed etiche.

2. Sfida alle norme culturali: La FAI mette in discussione le norme culturali che associano la tecnologia al genere maschile. Progetti come “feminist.ai” mirano a integrare la cultura come una considerazione chiave nella progettazione dell’AI, tenendo conto sia della cultura dei creatori che di quella degli utenti.

3. Trasparenza e responsabilità: La FAI promuove la trasparenza e la responsabilità nello sviluppo e nell’implementazione dell’AI. Questo contrasta con l’opacità che spesso caratterizza i sistemi di AI aziendali, rendendo difficile comprendere come funzionano e quali sono le loro potenziali conseguenze.

4. Rimedio e giustizia sociale: La FAI va oltre l’obiettivo di rendere gli algoritmi imparziali e inclusivi e si concentra sulla riparazione dei danni causati dai sistemi di AI dannosi. Questo approccio riconosce che la discriminazione è un problema sistemico e strutturale che richiede interventi mirati a riparare i torti del passato e a prevenire future ingiustizie.

5. Sfida al tecnoliberalismo: La FAI critica l’ideologia tecnoliberale che vede la tecnologia come una forza intrinsecamente liberatrice. Si concentra invece sulle modalità in cui la tecnologia può essere utilizzata per rafforzare le strutture di potere esistenti e perpetrare le disuguaglianze.

Nonostante i suoi sforzi, la FAI è ancora limitata nella sua capacità di raggiungere un cambiamento trasformativo.

• Rimane in gran parte confinata alla sfera tecnoliberale dell’inclusione.
• Non affronta in modo significativo le disuguaglianze di potere e le ingiustizie sistemiche alla radice del capitalismo estrattivista che sta distruggendo l’ambiente.

La FAI può essere un potente strumento per promuovere la giustizia sociale e l’uguaglianza di genere, ma è essenziale riconoscere i suoi limiti e lavorare per costruire movimenti sociali più ampi che sfidino le strutture di potere alla radice delle disuguaglianze.

Sommario: Navigazione Femminista nell’Intelligenza Artificiale: Una Prospettiva Critica

“Shaping feminist artificial intelligence” di Sophie Toupin

Estratti da: new media & society 2024, Vol. 26(1) 580 –595

Parole chiave: Algoritmi, Alison Adam, società civile, IA critica, set di dati, IA femminista, storia femminista, genere, razza

Introduzione

Questa sezione introduce il concetto di intelligenza artificiale femminista (IAF) e pone due domande fondamentali: cosa significa il termine IAF e come si è evoluto nel tempo? Toupin stabilisce il contesto della sua indagine, sottolineando la molteplicità di significati sia per “femminismo” che per “IA”. L’autrice adotta un approccio inclusivo, considerando diverse prospettive femministe e definizioni di IA. Inoltre, Toupin delinea la metodologia della sua ricerca, che si basa su una selezione mirata di scritti e pratiche, non su una revisione sistematica. L’obiettivo è fornire un’analisi critica di varie interpretazioni di IAF e ampliare la nostra comprensione di chi è coinvolto nella sua creazione.

La formazione storica dell’IAF

Questa sezione esplora le origini storiche dell’IAF, mettendo in luce il contributo della studiosa britannica Alison Adam. Toupin situa le critiche femministe all’IA nel contesto degli studi femministi sulla scienza e sulla tecnologia (FSTS), evidenziando l’influenza del concetto di “conoscenza situata” di Donna Haraway. Adam, influenzata da queste correnti di pensiero, ha criticato le basi conservatrici dell’IA, chiedendosi come viene utilizzata, per quali scopi, come rappresenta la conoscenza e quale conoscenza utilizza. Queste domande hanno portato Adam a formulare la nozione di IAF, non come un’alternativa all’IA tradizionale, ma come un modo per informare l’IA con la teoria femminista e utilizzarla per progetti femministi.

Toupin ricostruisce la microstoria dell’IAF attraverso il lavoro di Adam e dei suoi studenti, evidenziando due prototipi di sistemi basati sulla conoscenza femminista: un sistema giuridico per supportare le donne a basso reddito nei casi di discriminazione di genere e un sistema linguistico per riparare i fraintendimenti nella comunicazione tra uomini e donne. Entrambi i progetti, seppur incompleti e pieni di contraddizioni, hanno dimostrato la possibilità di “fare IAF” e di utilizzare la tecnologia in modo critico e consapevole.

Tendenze attuali che modellano l’IAF

Questa sezione analizza le ragioni del ritorno dell’IAF, identificando due fattori chiave: la “primavera dell’IA”, con un aumento dei finanziamenti per la ricerca e i progetti, e la crescente consapevolezza dell’impatto negativo dell’IA su gruppi emarginati, grazie al lavoro di studiosi critici della tecnologia, in particolare le studiose femministe nere. Toupin presenta una tipologia per comprendere l’IAF contemporanea:

• IAF come modello: Questa categoria si concentra sulla creazione di modelli di apprendimento automatico alternativi ai sistemi opachi e estrattivi guidati dalle grandi aziende. Toupin analizza il progetto “Feminist Data Set” di Caroline Sinders, che mira a sviluppare un set di dati guidato dalla comunità per alimentare un chatbot IAF in grado di dialogare sui femminismi. Il progetto di Sinders evidenzia l’importanza della creazione di set di dati inclusivi e del lavoro invisibile e spesso sottopagato dei data labeler.
• IAF come progettazione: Questa categoria si concentra sull’inclusione di aspetti culturali nella progettazione di sistemi di IA. Toupin esamina il gruppo di ricerca artistica e di design “feminist.ai”, che ha sviluppato il software Poieto per facilitare l’integrazione della cultura nella progettazione di IA. L’approccio di feminist.ai considera la cultura dei creatori, degli utenti e del contesto sociale in cui gli strumenti di IA vengono sviluppati.
• IAF come politica: Questa categoria esplora l’IAF come questione di politica di sviluppo internazionale. Toupin analizza il caso del Canada e del suo sostegno al “Feminist AI Research Network” (f < a + i > r), un progetto finanziato dal Centro di ricerca per lo sviluppo internazionale (IDRC). f < a + i > r mira a promuovere l’IAF nei paesi del Sud del mondo, finanziando ONG per i diritti digitali che si concentrano sulle donne e sulle persone LGBTQI+.
• IAF come discorso: Questa categoria esamina l’uso di IAF come significante per descrivere il lavoro critico che affronta la relazione tra genere e tecnologia. Toupin presenta esempi come il dipartimento di studi femminili e di genere dell’Università della Florida e il podcast Radical AI, che utilizzano “IAF” per riferirsi a opere accademiche che criticano i sistemi di IA da prospettive femministe e antirazziste.
• IAF come cultura: Questa categoria si concentra sulla comprensione dell’IA come espressione culturale. Toupin riprende il lavoro di Judy Wajcman, che ha analizzato la relazione tra tecnologia e cultura, evidenziando come la tecnologia sia spesso percepita come una cultura maschile. Toupin esplora anche il lavoro di Galit Wellner e Tiran Rothman, che hanno classificato i pregiudizi di genere in tre categorie di norme: sociali, fisiche e cognitive.
• IAF come scienza: Questa categoria si concentra sulla ricerca sull'”intelligenza” da prospettive femministe. Toupin analizza il libro “Surrogate Humanity” di Neda Atanasoski e Kalindi Vora, che criticano l’approccio tecnoliberale all’IA e mettono in discussione l’esistenza di un'”intelligenza femminista”.

Conclusione

Toupin conclude sottolineando che l’IAF, sebbene rappresenti un’importante intervento tattico e una forma di resistenza all’IA egemonica e discriminatoria, ha dei limiti. L’IAF, nella sua forma attuale, rimane all’interno della sfera tecnoliberale dell’inclusione e non affronta le disuguaglianze sistemiche del sistema capitalista. Toupin invita a considerare l’IAF come parte di un più ampio movimento per la liberazione collettiva e a non dimenticare l’importanza di costruire movimenti sociali per sfidare le ingiustizie e reimmaginare il mondo.