Simon sintetizza:

[Consideriamo] il concetto di inganno nei sistemi di IA. Sebbene questo problema non sia del tutto nuovo, le sue implicazioni sono diventate più pronunciate nel contesto attuale. Nel mio lavoro, ho definito “quadruplo inganno” queste nuove trappole tipiche dell’IA generativa. Inganno riguardo all’entità. Stiamo interagendo con un chatbot o con un umano? L’AI Act, ossia la legislazione promulgata quest’anno dalla Commissione Europea, affronta questo aspetto, richiedendo dichiarazioni chiare da parte dei produttori di IA circa il fatto che il rispondente sia un’entità artificiale. Tuttavia, poiché il testo generato dall’IA imita sempre più la comunicazione umana, gli utenti possono erroneamente credere di interagire con un essere senziente, attribuendo comprensione e intenzionalità simili a quelli umani a questi sistemi. Inganno riguardo alle capacità. Questo tipo di inganno ha a che fare con le affermazioni fuorvianti riguardo alla comprensione e alla coscienza dell’IA. Le prime discussioni sull’IA spesso esageravano le sue capacità, portando a confusione sulle reali capacità degli agenti artificiali. È cruciale riconoscere che, mentre l’IA non ha veri stati cognitivi, la sua capacità di simulare interazioni umane può avere effetti tangibili su come le persone interagiscono con essa. Inganno riguardo alla generazione di contenuti. Questo aspetto è politicamente vitale, soprattutto riguardo a minacce come i deep fake e la manipolazione delle informazioni, ed è probabilmente il più discusso dal grande pubblico e dai media. Ma non è detto che sia l’inganno più pericoloso, né che la legislazione che abbiamo oggi a disposizione sia in grado di contenerlo. Inganno relativo al collasso del contesto. Questo tipo di inganno è il più sottile e si verifica quando l’IA generativa è integrata in vari sistemi, sfumando le linee tra recupero di informazioni e creazione di contenuti. Ad esempio, incontrare risposte generate dall’IA in e-mail o lettori di documenti (come Adobe) complica la distinzione tra contenuti preesistenti e nuovi contenuti generati, portando a significative implicazioni epistemiche che influenzano la fiducia in vari ambiti e a grossi problemi di copyright che ad oggi non sono ancora assolutamente gestiti. ( Simon, “INTELLIGENZA ARTIFICIALE E NUOVE SFIDE PER L’ETICA“, Micromega 6/24)