le applicazioni contemporanee di “IA per il bene” si adattano a geometrie di potere diseguali e impongono forme di conoscenza eurocentriche nei contesti del mondo maggioritario. Ciò è evidente quando modelli linguistici di grandi dimensioni o algoritmi di apprendimento automatico vengono addestrati in lingua inglese, ma implementati in contesti non anglofoni. Questo capitolo osserva che le asimmetrie di potere vengono ulteriormente riprodotte attraverso l’attrazione per l’innovazione tecnologica e la sperimentazione. Poiché gli esperimenti si basano su infrastrutture tecnologiche come la biometria, che supporta le operazioni umanitarie, osserviamo che la sperimentazione è sempre più occulta. Ciò significa che la sperimentazione non viene prontamente riconosciuta come tale. (…) Poiché le infrastrutture tecnologiche sono integrate nella vita quotidiana delle persone, la sperimentazione diventa diffusa e si confonde con lo sfondo: un esperimento costante, ma poco appariscente. Lontano dagli occhi, eppure in piena vista. Tutti gli esperimenti rielaborano le relazioni tra coloro che li conducono e i loro soggetti; gli esperimenti occulti, a causa delle geometrie di potere ineguali coinvolte, hanno conseguenze di vasta portata (…) I chatbot sono stati originariamente introdotti in contesti umanitari per migliorare la diffusione delle informazioni e la comunicazione con le comunità colpite. La pandemia di Covid-19 ne ha accelerato l’implementazione, con l’aumento della necessità di fornire aiuti a distanza a causa delle misure di distanziamento sociale. Dal 2020 si è assistito a una diversificazione degli utilizzi dei chatbot, dall’istruzione e dalla formazione professionale alla psicoterapia e alla consulenza. I chatbot sono prodotti da organizzazioni non profit e a scopo di lucro (…) una prospettiva storica rivela che la sperimentazione si è spesso estesa oltre i laboratori scientifici. Nel XIX e XX secolo, esperimenti medici si svolgevano nelle colonie, dove nuovi farmaci venivano testati prima di essere distribuiti in Europa (…) gli ambienti sociali vengono modificati in modo da consentire operazioni sperimentali. Le infrastrutture consentono lo svolgimento di una maggiore sperimentazione. La sperimentazione facilita il cambiamento delle impostazioni, e non solo la loro verifica (…). La conseguenza è che la sperimentazione diventa una forma di controllo. (…) Nella sperimentazione occulta l’obiettivo non è più imparare e osservare, ma intervenire nell’ambiente e controllare i soggetti dell’esperimento (…) osserviamo un’esternalizzazione del rischio, soprattutto nel caso di esperimenti guidati da aziende tecnologiche. In caso di problemi, il rischio è percepito come inferiore se l’esperimento si svolge in un luogo lontano o in un altro. I rischi relativi ai costi legali sono certamente inferiori. (M. Madianou, “Technocolonialism. When Technology for Good is Harmful”)