Viola Schiaffonati

“intende contribuire al dibattito intorno ai fondamenti delle discipline dell’artificiale (…) dedicate alla realizzazione di artefatti tecnici, la cui creazione risponde alla necessità di tradurre in pratica determinate funzioni (…), Nel 2018 “Science Magazine” ha pubblicato un breve articolo in cui si tematizzava per la prima volta in maniera esplicita che anche l’ia stesse attraversando la cosiddetta crisi della riproducibilità, ossia l’idea che la maggior parte degli esperimenti non sia di fatto riproducibile, contrariamente a quanto prescrive il metodo scientifico sperimentale( …)
la maggior parte delle ricerche non è in grado di documentare tutte le variabili necessarie a riprodurre gli esperimenti (…) L’attenzione è più che altro rivolta ai vantaggi pratici della riproducibilità, mentre la sua rilevanza come valore epistemico universale è data per scontata. Inoltre, è difficile trovare in questo dibattito una riflessione sulla relazione della riproducibilità con il più ampio metodo sperimentale. (…)Si tratta di un tema ricorrente nella storia dell’informatica che prende le mosse dalle esortazioni a adottare gli stessi metodi delle altre discipline scientifiche per essere presi sul serio (…), fino all’invito a lasciare l’adolescenza alle spalle per diventare una scienza fondamentale (…) la nozione di esperimento adottata nella pratica dell’informatica è assai più articolata di quanto si sia propensi a credere. La domanda centrale diviene quindi se sia lecito adottare nell’informatica (e di conseguenza anche nell’ia) gli stessi standard sperimentali delle scienze naturali (…). La risposta (…)richiede di partire dal riconoscimento dell’informatica come disciplina dell’artificiale che ha l’obiettivo di realizzare particolari artefatti, come algoritmi, programmi e computer. (…)
(…) In informatica gli esperimenti hanno generalmente l’obiettivo di testare artefatti tecnici e non teorie. Per artefatto tecnico si intende un oggetto materiale che è stato deliberatamente prodotto da esseri umani per rispondere a delle funzioni pratiche (…), Questo (…) mette in luce come in questo tipo di esperimenti venga introdotta una componente normativa: l’esperimento serve a controllare se e come l’artefatto risponde alla funzione per cui è stato progettato. (…)
Il secondo elemento concerne il fatto che negli esperimenti in informatica il progettista spesso coincide con lo sperimentatore. (…)
Il terzo elemento, in parte collegato al secondo, ha a che fare con il (…) controllo (…). La necessità per il progettista degli artefatti tecnici di condurre esperimenti deriva almeno da due ragioni. La complessità intrinseca degli artefatti (…) e la complessità dell’interazione fra l’artefatto e l’ambiente circostante: l(…)Si tratta di un’incertezza epistemica relativa sia alla natura degli artefatti tecnici sia alla loro interazione con ambienti complessi.
Sulla base di questi tre elementi ritengo che, nell’indagare la natura e il ruolo degli esperimenti in ia e in informatica, occorra introdurre una nuova nozione di esperimento che ho chiamato esplorativo (…). (…) forma tecnologica di sperimentazione guidata da necessità pratiche. (…) Un esempio di sperimentazione tecnologica è il trial clinico di un analgesico: il suo obiettivo non è solo conoscitivo, ma mira a un intervento ben preciso, realizzabile attraverso la somministrazione di uno specifico trattamento a un gruppo di pazienti.
Gli esperimenti esplorativi sono dunque forme tecnologiche di sperimentazione che hanno l’obiettivo di testare artefatti tecnici, intesi come oggetti fisici con una funzione tecnica e un piano d’uso definiti dai loro progettisti. (…) A causa dell’incertezza epistemica che caratterizza la natura di tali artefatti e la loro interazione con l’ambiente circostante, i fattori sperimentali di interesse non possono essere messi sotto controllo fin dall’inizio come negli esperimenti controllati; piuttosto essi diventano in parte controllabili solo dopo che questi artefatti sono stati inseriti nel loro ambiente.(…)
Se il tentativo di anticipare in fase di progettazione i problemi che sorgono durante l’implementazione è una costante della pratica ingegneristica, ciò è particolarmente critico nel caso di un sistema robotico autonomo: infatti è molto difficile, se non impossibile, modellare in fase di progettazione tutti i problemi che il sistema potrebbe incontrare nella sua interazione con l’ambiente. La sperimentazione in questi casi deve tenere conto non solo di come il progetto sia stato correttamente tradotto in pratica, ma anche di come si possa indagare – in modo esplorativo, appunto – il comportamento dell’artefatto tecnico nella sua interazione con l’ambiente fisico e sociale circostante.
(…)[Questi] artefatti sono definiti tecnologie sperimentali: l’esperienza relativa al loro effettivo operare è spesso limitata e, di conseguenza, i tentativi di determinare in modo preciso i rischi e i benefici a esse associate sono incerti e difficili da prevedere (…).
i principi morali sviluppati per gli esperimenti nelle scienze naturali e sociali (come, per esempio, il consenso informato) devono essere riconsiderati nel caso della sperimentazione delle cosiddette tecnologie sperimentali. Ciò significa riconoscere che possono sempre accadere eventi inaspettati e che un’impostazione concettuale differente può avere anche un impatto sul modo in cui questi eventi sono gestiti. Si tratta in sostanza di un approccio incrementale, dove le tecnologie sperimentali come l’ia sono introdotte gradualmente nei loro contesti d’uso in modo da poter monitorare in maniera costante gli effetti sociali che emergono e migliorare progressivamente la loro progettazione. In altre parole, l’incertezza epistemica che sta al cuore della sperimentazione esplorativa può essere tradotta dal punto di vista etico in una forma di incrementalismo, dove gli esperimenti esplorativi giocano un ruolo proprio nell’acquisire conoscenza su come queste tecnologie sperimentali operano nei loro contesti d’uso. Per questo gli esperimenti esplorativi sono centrali anche per affrontare i problemi etici connessi al loro impatto sulla società.
Lungo questa linea di pensiero sono già stati proposti alcuni quadri di riferimento di tipo etico: alcuni cercano di integrare i quattro tradizionali principi della bioetica (beneficienza, non-­maleficenza, rispetto per l’autonomia, rispetto per la giustizia) con l’impostazione incrementale (…); altri di individuare dei principi etici (rispetto per l’autonomia umana, prevenzione del danno, equità e spiegabilità) che dovrebbero essere tenuti presenti nella progettazione, nello sviluppo e nell’impiego di sistemi di ia(…). Ritengo che queste impostazioni possano essere particolarmente promettenti se integrate con la nozione di esperimento esplorativo: per minimizzare effettivamente e concretamente i rischi connessi alle tecnologie sperimentali uno dei punti di partenza essenziali è proprio quello di cercare di capire come questi artefatti operano nei loro contesti d’uso. (…)
[Queste concettualizzazion si inseriscono] nel contesto della più ampia riflessione sui fondamenti delle discipline dell’artificiale a cui ia e informatica appartengono, (…), in cui è importante riconoscere il ruolo degli artefatti tecnici e dei sistemi socio-­tecnici (…) [che sono] composti da oggetti fisici, persone, organizzazioni, istituzioni e hanno quindi un carattere ibrido,(…)Per questo le loro componenti richiedono una descrizione fisica, ma anche una descrizione sociale. Se fino a questo momento è stata predominante la descrizione fisica dei sistemi socio-­tecnici promossa dalle discipline scientifico-ingegneristiche, ora è tempo di considerare anche tutte le componenti sociali che devono essere descritte dalle discipline umanistiche e sociali in modo da includere entrambe le componenti nelle nuove discipline dell’artificiale.