Titolo
Artificial intelligence and the affective labour of understanding: The intimate moderation of a language model (Intelligenza artificiale e il lavoro affettivo della comprensione: La moderazione intima di un modello linguistico)

Autori
Carlo Perrotta, Neil Selwyn, Carrie Ewin

Affiliazione
Università di Monash, Australia

Parole chiave
Affect, intelligenza artificiale, alfabetizzazione digitale, lavoro, modelli linguistici

Urls
https://doi.org/10.1177/14614448221075296 , Github: None

Sommario

• Il background della ricerca di questo articolo si concentra sull’uso dei modelli linguistici AI, in particolare i modelli generativi pre-addestrati come GPT, e le loro implicazioni per il lavoro affettivo e la comprensione umana.
• I metodi passati hanno incluso studi su bias algoritmici e interazioni umane con l’AI, ma spesso non affrontano adeguatamente l’impatto emotivo e il lavoro di interpretazione richiesto dagli utenti. L’approccio proposto è ben motivato poiché esplora queste dinamiche.
• La metodologia di ricerca proposta include uno studio empirico qualitativo che osserva le interazioni tra umani e un modello linguistico AI durante il processo di scrittura.
• L’articolo analizza come gli utenti interagiscono con un’app di scrittura assistita da AI, evidenziando le emozioni e le frizioni generate dall’interazione, supportando così l’obiettivo di comprendere il lavoro affettivo coinvolto.

Metodi

• Osservazione delle interazioni degli utenti con un’app di scrittura basata su GPT-2;
• Raccolta di dati qualitativi attraverso interviste semi-strutturate;
• Utilizzo di scale auto-riferite per misurare le emozioni degli utenti durante l’interazione;
• Analisi approfondita di un caso specifico per esplorare le risposte emotive e il lavoro di moderazione richiesto.

Conclusione:

• La significatività di questo lavoro risiede nella sua capacità di rivelare come l’interazione con i modelli linguistici AI richieda un lavoro affettivo significativo da parte degli utenti.
• Punto di innovazione: l’articolo introduce il concetto di “lavoro affettivo” nell’interazione con l’AI, evidenziando le dinamiche di sfruttamento e partecipazione.
• Prestazione: l’approccio qualitativo fornisce una comprensione profonda delle esperienze utente, ma potrebbe mancare di generalizzabilità.
• Carico di lavoro: il metodo richiede un impegno significativo da parte dei partecipanti per riflettere e verbalizzare le loro esperienze, il che può influenzare la disponibilità e la rappresentatività del campione.

Qual è il focus principale della ricerca di questo articolo?

Il focus principale della ricerca di questo articolo è analizzare come i modelli di linguaggio di intelligenza artificiale, in particolare il ‘generative pre-trained transformer’ (GPT), sfruttino il lavoro umano e il processo di attribuzione di senso in due fasi: (1) durante l’addestramento, quando l’algoritmo “impara” modelli comunicativi basati su bias estratti da Internet e (2) durante l’uso, quando gli esseri umani scrivono insieme all’AI. La seconda fase è criticamente inquadrata come una forma di ‘lavoro affettivo’ disuguale, dove l’AI impone condizioni di interazione ristrette e bias, sfruttando la turbolenza affettiva risultante per sostenere la sua simulazione di prestazioni autonome. L’articolo si basa su uno studio di caso dettagliato in cui un essere umano ha interagito con uno strumento di scrittura AI, con i ricercatori che hanno registrato le interazioni e raccolto dati qualitativi su percezioni, attriti ed emozioni.

Quali metodi di ricerca sono stati proposti per analizzare le interazioni tra umani e modelli linguistici AI?

Nel documento vengono proposti diversi metodi di ricerca per analizzare le interazioni tra umani e modelli linguistici di intelligenza artificiale (AI). Ecco un elenco dei metodi principali descritti nel testo:

• Studio di caso approfondito: L’articolo si basa su uno studio di caso dettagliato in cui un umano interagisce con uno strumento di scrittura AI, registrando le interazioni e raccogliendo dati qualitativi sulle percezioni, attriti ed emozioni.
• Osservazioni qualitative: I ricercatori hanno osservato come diverse persone interagiscono con uno strumento di scrittura assistito da AI. Durante queste osservazioni, hanno notato come i pregiudizi incorporati nel modello suscitino risposte emotive che richiedono un processo laborioso di costruzione del senso e moderazione.
• Analisi del lavoro emotivo e di moderazione: Viene studiato il lavoro emotivo necessario per interagire con il modello AI e come gli utenti debbano moderare i pregiudizi e le risposte dell’AI per mantenere l’illusione di un comportamento “simile a quello umano”.

Questi metodi mirano a esaminare l’interazione affettiva tra esseri umani e strumenti linguistici di AI, mettendo in luce l’importanza del lavoro umano nella creazione di significato attraverso tali interazioni.

Qual è l’innovazione introdotta dall’articolo riguardo all’interazione con l’AI?

L’articolo introduce un’innovazione nella comprensione dell’interazione tra umani e intelligenza artificiale (AI), in particolare nel contesto dell’uso di modelli di linguaggio generativo come il GPT. L’innovazione si concentra su due aspetti principali:

1. Fasi dell’Interazione: L’articolo descrive come l’AI sfrutti il lavoro umano e il senso comune in due fasi principali:

• Durante l’addestramento, quando l’algoritmo “impara” dai pattern comunicativi estratti da Internet.
• Durante l’uso, quando le persone scrivono insieme all’AI, un processo visto come una forma di “lavoro affettivo” diseguale.

1. Concettualizzazione Critica: L’articolo critica la fase di utilizzo come una forma di lavoro affettivo diseguale. Si evidenzia come l’AI imponga condizioni strette e pregiudiziali per l’interazione e come sfrutti il turbamento affettivo risultante per sostenere la sua simulazione di performance autonoma.

Questa interazione viene indagata attraverso uno studio di caso approfondito, che raccoglie dati qualitativi sulle percezioni, attriti ed emozioni umane durante l’interazione con uno strumento di scrittura potenziato dall’AI.