• il testo generato è corretto e attendibile?
• mi soddisfa, è quello che potrei scrivere io?
• cosa cambia per il destinatario del testo?

“dobbiamo semplicemente riconfigurarci per iniziare a ripensare in modo radicale il concetto di autorialità, di responsabilità dello scritto e di modi di produzione della cultura. (…) le nostre macchine del linguaggio sottopongono il proprio input a un numero incredibilmente vasto di trasformazioni, impossibili da prevedere e descrivere analiticamente, per produrre una successione di parole che, messe insieme, sembrano proprio il linguaggio umano. Ma non lo sono. Sono piuttosto il frutto di un processo del tutto alieno di trasformazioni numeriche che poco hanno a che vedere con il modo in cui produciamo il linguaggio. Se anche si scoprisse, come qualcuno sostiene, che il nostro cervello elabora il linguaggio per mezzo di trasformazioni di segnali elettrici in un modo del tutto analogo alle reti neurali, ciò non cambierebbe il senso di questo problema, perché non è in questa spiegazione meccanicistica che si trova la nostra coscienza del linguaggio. (…) Noi pensiamo il linguaggio in termini di principî logici e argomentativi, strutture grammaticali e sintattiche, buon senso, stile ed esperienza estetica, pragmatica e contesto, efficacia comunicativa, significati, significanti e segni, e in generale tutta una serie di categorie e idee che sono totalmente estranee al processo meccanico di trasformazione di matrici e vettori che regola invece il funzionamento delle macchine. Ciò che le macchine del linguaggio producono davvero e ciò che possono o non possono produrre è dunque un oggetto utilizzabile in vece del linguaggio ma che è, in larga misura, del tutto misterioso.

(fonte: A. Ferrara, “Le macchine del linguaggio. L’uomo allo specchio dell’intelligenza artificiale”)