Cristianini lo descrive così:

un «modello di linguaggio» creato da OpenAI nel 2020. I modelli di linguaggio sono strumenti usati per calcolare la probabilità di una frase nel linguaggio naturale e impiegati soprattutto per compiti di previsione del testo, che includono: completare le frasi, riempire le parole mancanti, suggerire cambiamenti. Modelli di linguaggio stocastici sono usati comunemente come componenti in molti sistemi, dalla correzione ortografica all’autocompletamento delle frasi, fino alla creazione di dialogo e generazione di risposte alle domande. Il modello GPT-3 è stato addestrato su 45 terabyte di testo raccolto da diverse fonti online, una quantità che richiederebbe oltre 600 anni per essere letta dal più veloce lettore umano (…). Il modello contiene milioni di parametri: molto più di quello che noi potremmo comprendere o contenere nella nostra limitatissima memoria di lavoro. Questi modelli di linguaggio sono i discendenti diretti dei modelli introdotti da Jelinek alla IBM negli anni Settanta e uno di questi, chiamato LaMDA e creato da Google, è finito sui giornali nel 2022 perché un ingegnere si era convinto che fosse diventato autocosciente dopo una lunga «conversazione». LaMDA era stato addestrato su quattro miliardi di documenti a simulare un dialogo, e contiene miliardi di parametri. Non sono a conoscenza di studi che tentino di comprendere come quel modello rappresenti il mondo al suo interno, ma anche se fosse abbastanza piccolo da essere ispezionato non c’è ragione di aspettarsi che le sue astrazioni interne corrispondano alle nostre. Non solo GPT-3 e LaMDA hanno dimensioni ed esperienza sovrumane, ma possono anche avere rappresentazioni «aliene» del nostro stesso mondo, e quindi possono eseguire lo stesso compito in modi interamente diversi da noi. Come notato dal pioniere Vladimir Vapnik, se lo scopo del gioco è la previsione, non c’è alcun bisogno che la macchina risolva un problema più difficile come passo intermedio. (N. Cristianini, “La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano”)