Atanasoski e Vora fanno un’affermazione forte:

il pregiudizio antropocentrico è una parola in codice per il pregiudizio razziale. Infatti, i metodi e le conclusioni della scienza razziale, a lungo considerati screditati, costituiscono l’impalcatura di nuovi tentativi di codificare e misurare le intelligenze artificiali. (…) . La questione di come misurare l’intelligenza e cosa ciò significhi per il modo in cui designiamo cosa o chi è un agente intelligente nel mondo, ha una lunga e travagliata storia che deriva dalla categorizzazione razziale degli esseri umani, categorizzazione che dà luogo a gerarchie considerate poi come biologiche e innate.(N. ATANASOSKI, K. VORA, “L’IDEOLOGIA RAZZIALE DIETRO L’IA“, in Micromega 6/2024)

Interviene sul documento Perplexity.ai:

Il documento analizza la crescente attenzione verso l’intelligenza artificiale generale (AGI) e il suo legame con le ideologie eugenetiche del ventesimo secolo. Gli autori sostengono che il movimento per la creazione di AGI è influenzato da una serie di ideologie, denominate “TESCREAL”, che includono transumanesimo, extropianismo, singolaritarismo, cosmismo, razionalismo, altruismo efficace e lungotermismo. Queste ideologie, secondo gli autori, sono radicate in attitudini discriminatorie simili a quelle dei primi eugenetisti e possono portare a sistemi di intelligenza artificiale che danneggiano i gruppi marginalizzati.

Riassunto del Documento

1. Introduzione: Si discute l’obiettivo di costruire AGI e come questo sia spesso considerato un fine non messo in discussione nel campo dell’IA.
2. Metodologia: Gli autori analizzano fonti primarie da figure chiave nel campo dell’AGI per comprendere le ideologie sottostanti.
3. Storia dell’eugenetica: Viene fornita una panoramica della storia dell’eugenetica, evidenziando come le idee di Galton abbiano influenzato il pensiero moderno.
4. Il pacchetto TESCREAL: Si esplora come le ideologie TESCREAL abbiano guidato la corsa all’AGI.
5. Transumanesimo e AGI: Si discute il passaggio dal transumanesimo alla ricerca di AGI.
6. Utopia e apocalisse: Viene analizzato come le visioni utopiche possano coesistere con scenari apocalittici riguardo all’AGI.
7. Costruire sistemi ben definiti: Gli autori esortano a concentrarsi su sistemi specifici piuttosto che su un’AGI indefinita.

Glossario dei Concetti Chiave

• AGI (Intelligenza Artificiale Generale): Un sistema di intelligenza artificiale capace di svolgere qualsiasi compito cognitivo umano.
• Eugenetica: Movimento sociale e scientifico che promuoveva l’idea di migliorare la razza umana attraverso la selezione dei tratti ereditari.
• TESCREAL: Acronym per Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, Longtermism; un insieme di ideologie influenti nel dibattito sull’AGI.
• Transumanesimo: Movimento filosofico che sostiene l’uso della tecnologia per migliorare le capacità umane.
• Altruismo Efficace: Approccio che utilizza prove e ragionamenti per determinare le modalità più efficaci di migliorare il benessere globale.
• Longtermismo: Ideologia che enfatizza l’importanza delle conseguenze a lungo termine delle azioni umane.

Il documento conclude esortando i ricercatori a focalizzarsi su progetti ben definiti piuttosto che su un’AGI potenzialmente pericolosa e mal definita.

In che modo le ideologie del TESCREAL bundle influenzano il campo dell’IA?

Le ideologie del “TESCREAL bundle” influenzano il campo dell’intelligenza artificiale (IA) in vari modi, contribuendo a plasmare le aspirazioni e le pratiche nella ricerca e nello sviluppo dell’intelligenza artificiale generale (AGI). Ecco come queste ideologie si manifestano nel contesto dell’IA:

Influenza delle Ideologie TESCREAL

1. Motivazione Ideologica: Le ideologie che compongono il TESCREAL bundle—transumanesimo, extropianismo, singolaritarismo, cosmismo, razionalismo, altruismo efficace e longtermismo—sono radicate in una visione utopica del futuro. Queste ideologie incoraggiano la creazione di un’AGI che non solo supera le capacità umane, ma che è vista come un mezzo per realizzare una società ideale.
2. Rischi Discriminatori: L’eredità delle ideologie eugenetiche è evidente nei rischi associati alla creazione di AGI. Le stesse attitudini discriminatorie che caratterizzavano i movimenti eugenetici—come razzismo, xenofobia e classismo—continuano a permeare le discussioni sull’AGI. Questo può portare a sistemi di IA che amplificano disuguaglianze esistenti e danneggiano i gruppi marginalizzati.
3. Finanziamento e Sviluppo: Molti dei finanziamenti per progetti di AGI provengono da individui e organizzazioni che aderiscono a queste ideologie. Ciò significa che le priorità di ricerca sono spesso influenzate da visioni utopiche piuttosto che da considerazioni pratiche o etiche riguardo all’impatto sociale della tecnologia.
4. Definizione di Sicurezza: La nozione di “sicurezza” nell’IA è spesso influenzata dalle aspirazioni utopiche del TESCREAL bundle. Gli autori sostengono che la ricerca di un’AGI “sicura” è problematica perché l’AGI, per sua natura indefinita, non può essere progettata o testata secondo i principi ingegneristici standard. Questo porta a una mancanza di responsabilità e a prodotti potenzialmente pericolosi.
5. Riorientamento della Ricerca: Gli autori esortano i ricercatori a concentrarsi su sistemi ben definiti piuttosto che sulla creazione di un’AGI indefinita. Questo approccio mira a garantire che i sistemi sviluppati siano sicuri e utili per le comunità specifiche, piuttosto che perseguire un ideale astratto.

In sintesi, le ideologie del TESCREAL bundle non solo guidano la ricerca sull’AGI, ma pongono anche sfide significative in termini di equità sociale e responsabilità etica nel campo dell’intelligenza artificiale.

Visualizza su Medium.com

• Contesto dell’AGI: Microsoft e OpenAI hanno recentemente pubblicato un documento che sostiene che GPT-4 rappresenti una forma primitiva di Intelligenza Artificiale Generale (AGI), un concetto di apprendimento automatico autocosciente che potrebbe superare l’intelligenza umana.
• Definizione di Intelligenza: La definizione di intelligenza utilizzata nel documento è stata proposta da Linda Gottfredson, la quale ha una storia controversa legata al razzismo scientifico e alla pseudoscienza, sostenendo che le differenze di intelligenza siano di origine genetica.
• Critiche alla Definizione: Critiche sono emerse riguardo al gruppo di 52 psicologi che hanno firmato la dichiarazione di Gottfredson, con molti esperti nel campo dell’intelligenza che si sono rifiutati di firmare. Solo una minoranza dei firmatari era realmente qualificata.
• Implicazioni etiche: L’uso della definizione di Gottfredson ha sollevato preoccupazioni etiche e ha messo in evidenza la mancanza di consapevolezza storica riguardo al razzismo nella ricerca sull’intelligenza, influenzando negativamente la qualità della ricerca sull’AGI.
• Problemi con i Preprint: La pubblicazione su piattaforme come arXiv ha permesso a Microsoft di modificare silenziosamente il documento senza un adeguato processo di revisione paritaria, sollevando interrogativi sulla responsabilità scientifica.
• Riflessioni sul Futuro dell’AGI: La situazione attuale evidenzia la necessità di una maggiore introspezione e integrazione delle scienze umanistiche nella ricerca sull’AGI, per evitare ripetizioni di errori storici e promuovere una comprensione più completa dell’intelligenza.

I concetti chiave trattati nel documento di Microsoft e OpenAI includono:

• Intelligenza Artificiale Generale (AGI): Il documento propone che GPT-4 rappresenti una forma primitiva di AGI, suggerendo che potrebbe possedere capacità simili all’intelligenza umana.
• Definizione di Intelligenza: Si fa riferimento alla definizione di intelligenza fornita da Linda Gottfredson, che sostiene che le differenze di intelligenza siano principalmente di origine genetica.
• Critiche alla Definizione: Sono emerse critiche riguardo alla validità della definizione di Gottfredson, con molti esperti nel campo dell’intelligenza che non hanno firmato la dichiarazione, evidenziando una scarsa rappresentanza tra i firmatari.
• Implicazioni Etiche: L’uso della definizione controversa ha sollevato preoccupazioni etiche, in particolare riguardo al razzismo scientifico e alla sua influenza sulla ricerca sull’intelligenza.
• Problemi con la Pubblicazione: La pubblicazione su piattaforme come arXiv ha permesso modifiche al documento senza un adeguato processo di revisione paritaria, sollevando interrogativi sulla responsabilità scientifica.
• Necessità di Integrazione delle Scienze Umanistiche: Il documento sottolinea l’importanza di considerare le scienze umanistiche nella ricerca sull’AGI per evitare ripetizioni di errori storici e promuovere una comprensione più completa dell’intelligenza.

La pubblicazione di “The Bell Curve” come ha influenzato il dibattito sull’intelligenza?

La pubblicazione di “The Bell Curve” nel 1994, scritta da Charles Murray e Richard Herrnstein, ha avuto un impatto significativo e controverso sul dibattito sull’intelligenza, specialmente in relazione a questioni di razza e disuguaglianza sociale. Il libro ha sostenuto che le differenze di intelligenza tra i gruppi razziali sono in parte genetiche, suggerendo che la disuguaglianza sociale possa essere attribuita a una presunta inferiorità intellettuale di alcuni gruppi, in particolare degli afroamericani. Questa tesi ha riacceso il dibattito sull’eugenetica e ha fornito una base per argomentazioni razziste nel contesto accademico e politico.

Reazioni e Critiche

Critiche Accademiche: La comunità scientifica ha reagito con forte opposizione. Molti studiosi hanno contestato le affermazioni di Murray e Herrnstein, evidenziando che l’intelligenza è influenzata da una complessa interazione tra fattori genetici e ambientali. Critici come Donald T. Campbell hanno sottolineato che solo una minoranza dei firmatari della dichiarazione di Gottfredson, che supportava le tesi del libro, erano esperti nel campo della misurazione dell’intelligenza.

Influenza sulla Politica: “The Bell Curve” ha influenzato anche il dibattito politico, contribuendo a giustificare politiche pubbliche basate su teorie razziste. Le sue affermazioni sono state utilizzate per sostenere l’idea che le disuguaglianze sociali siano inevitabili e radicate in differenze biologiche piuttosto che in fattori socioeconomici o storici.

Eredità Culturale

Razzismo Scientifico: Il libro ha riacceso l’interesse per il razzismo scientifico, portando alla luce teorie già smentite. Ha dato voce a movimenti che cercano di legittimare la discriminazione attraverso la pseudoscienza, contribuendo a un clima di intolleranza e divisione.

Continuazione del Dibattito: Anche anni dopo la sua pubblicazione, “The Bell Curve” continua a essere citato in discussioni accademiche e politiche, dimostrando la persistenza delle sue idee controverse. La sua influenza si estende anche alla ricerca sull’intelligenza artificiale e all’AGI (Artificial General Intelligence), dove le definizioni di intelligenza spesso si riflettono su parametri come il QI, ereditando il bagaglio storico delle teorie razziste.

In sintesi, “The Bell Curve” ha avuto un impatto duraturo sul dibattito sull’intelligenza, alimentando controversie su razza e disuguaglianza e contribuendo a una narrativa che continua a influenzare sia la scienza sia la politica.

Quali sono le critiche mosse contro la definizione di intelligenza di Linda Gottfredson?

Linda Gottfredson è una psicologa nota per la sua definizione di intelligenza, che ha suscitato numerose critiche, in particolare per il suo legame con teorie razziste e approcci pseudoscientifici. Le principali critiche mosse contro la sua definizione di intelligenza includono:

Critiche alla Definizione di Intelligenza

1. Associazioni con il Razzismo Scientifico
Gottfredson è stata accusata di promuovere idee che suggeriscono una predisposizione genetica alla bassa intelligenza tra le popolazioni nere. Questo è stato evidenziato dalla sua difesa di figure storiche associate al razzismo scientifico, come Arthur Jensen, e dal suo supporto a teorie che affermano che le disuguaglianze sociali siano causate da inferiore intelligenza genetica.

2. Mancanza di Esperti nel Campo
La dichiarazione firmata da Gottfredson nel 1994, che ha cercato di stabilire una definizione “mainstream” di intelligenza, è stata firmata da 52 scienziati, ma solo un numero limitato di essi era esperto nel campo della misurazione dell’intelligenza. Molti dei firmatari non avevano le qualifiche necessarie, e alcuni avevano ricevuto finanziamenti da organizzazioni eugenetiche.

3. Critiche alla Validità Scientifica
Critici come Donald T. Campbell hanno sottolineato che la maggior parte dei firmatari della dichiarazione non era esperta in misurazione del QI, suggerendo che la definizione di Gottfredson fosse più un manifesto politico che una base scientifica valida[1]. Inoltre, il Southern Poverty Law Center ha evidenziato come le sue idee siano state utilizzate per giustificare politiche razziste e discriminatori.

4. Ignoranza delle Implicazioni Storiche
Le critiche recenti hanno messo in luce l’ignoranza da parte di molti ricercatori di intelligenza artificiale riguardo al contesto storico e alle implicazioni razziste della ricerca sull’intelligenza. Questo si riflette nel modo in cui Gottfredson continua a essere citata in lavori accademici contemporanei, nonostante le sue posizioni controverse.

In sintesi, la definizione di intelligenza proposta da Linda Gottfredson è oggetto di forti critiche per il suo legame con il razzismo scientifico, la mancanza di supporto da parte di esperti qualificati e l’ignoranza delle implicazioni storiche delle sue affermazioni.

Il documento “Spring 2022 Special Issue on Artificial Intelligence” della Journal of Moral Theology, curato da Matthew Gaudet e Brian Patrick Green, esplora le intersezioni tra intelligenza artificiale (IA) ed etica morale, con particolare attenzione alla teologia cattolica.

Sintesi dei Contenuti

1. Introduzione all’Etica dell’IA: L’articolo di apertura discute l’importanza di un dialogo continuo sull’IA, sottolineando la necessità di una riflessione etica in un contesto in cui l’IA è sempre più presente nella vita quotidiana.
2. IA e Teologia Morale: Diverse contribuzioni analizzano come la teologia cattolica possa rispondere alle sfide etiche poste dall’IA, affrontando questioni come il controllo sociale e la giustificazione delle armi autonome letali.
3. Marginalizzazione dei Poveri: Un articolo esamina come l’IA possa contribuire alla marginalizzazione delle persone meno abbienti, evidenziando le disuguaglianze già esistenti nella società.
4. Razzismo e Disuguaglianza Tecnologica: Viene proposta una riflessione su come affrontare il razzismo e i bias nei sistemi tecnologici attraverso una voce teologica più forte.
5. Personhood e IA: Un altro contributo discute se un robot possa essere considerato una persona, utilizzando il pensiero di Levinas per esplorare la questione della persona in relazione all’IA.
6. Fondamenti Teologici per un’IA Morale: Si propone un framework teologico per sviluppare un’IA che rispetti i principi morali.
7. Intervista con il Vescovo Paul Tighe: L’intervista offre una prospettiva ecclesiastica sull’IA e sulla sua integrazione nella vita della Chiesa.
8. Epilogo: L’epilogo riassume le discussioni e invita a ulteriori riflessioni sul ruolo dell’IA nella moralità cattolica.

Conclusioni

Questo numero speciale del Journal of Moral Theology mira a stimolare un dibattito informato sull’IA, incoraggiando non solo i teologi ma anche il pubblico generale a considerare le implicazioni morali delle tecnologie emergenti. La pubblicazione rappresenta un passo significativo verso l’integrazione dell’etica nella progettazione e nell’applicazione dell’intelligenza artificiale nella società moderna.