Ricorda Chiriatti:

La Royal society ha redatto un’ottima sintesi delle caratteristiche di un’IA secondo la quale occorre che questa sia:

• “– interpretabile, il che implica una qualche comprensione di come funziona la tecnologia;
• “– spiegabile, così che un’ampia gamma di utenti possa capire perché o come la conclusione è stata raggiunta;
• “– trasparente, ossia che abbia un certo livello di accessibilità ai dati e all’algoritmo;
• “– giustificabile, nel senso che esiste una comprensione del caso a sostegno di un risultato particolare;
• “– contestabile, che presupponga cioè il possesso da parte degli utenti delle informazioni necessarie ad opporsi a una decisione o a una classificazione.”

Un esempio può riguardare la giustizia: perché si è deciso per un periodo di detenzione più lungo? Perché è stata negata la condizionale? (M. Chiriatti, “Incoscienza artificiale. Come fanno le macchine a prevedere per noi”)