Avverte Nowotny:

ho cominciato a chiedermi se siamo persino in grado di pensare in modi non lineari. Le previsioni sul comportamento di sistemi dinamici complessi spesso si presentano sotto forma di equazioni matematiche incorporate nelle tecnologie digitali. I modelli di simulazione non parlano direttamente ai nostri sensi. Il loro risultato e le opzioni che producono devono essere interpretati e spiegati. Poiché sono percepiti come scientificamente oggettivi, spesso non vengono ulteriormente messi in discussione. Ma poi le previsioni assumono il potere di agenzia che attribuiamo loro. Se seguito ciecamente, il potere predittivo degli algoritmi si trasforma in una profezia che si autoavvera: una previsione diventa vera semplicemente perché le persone ci credono e agiscono di conseguenza. (…) Vla crisi del COVID-19, essa stessa destinata a trasformarsi da un’emergenza in una condizione più cronica, ha rafforzato la mia convinzione che la chiave per comprendere i cambiamenti che stiamo vivendo sia legata a quello che io chiamo il paradosso della previsione. Quando il comportamento umano, flessibile e adattivo com’è, inizia a conformarsi a quanto previsto dalle previsioni, rischiamo di tornare a un mondo deterministico, in cui il futuro è già stato fissato. Il paradosso è in bilico sull’interfaccia dinamica ma volatile tra presente e futuro: le previsioni riguardano ovviamente il futuro, ma agiscono la crisi del COVID-19, essa stessa destinata a trasformarsi da un’emergenza in una condizione più cronica, ha rafforzato la mia convinzione che la chiave per comprendere i cambiamenti che stiamo vivendo sia legata a quello che io chiamo il paradosso della previsione. Quando il comportamento umano, flessibile e adattivo com’è, inizia a conformarsi a quanto previsto dalle previsioni, rischiamo di tornare a un mondo deterministico, in cui il futuro è già stato fissato. Il paradosso è in bilico sull’interfaccia dinamica ma volatile tra presente e futuro: le previsioni riguardano ovviamente il futuro, ma agiscono direttamente su come ci comportiamo nel presente. su come ci comportiamo nel presente. (…) Il possibile adiacente inizia al limite quando guardiamo da un set di dati a set di dati adiacenti. L’adiacente possibile è lo spazio da esplorare se vogliamo trovare il nuovo, partendo dal limite di ciò che è noto e cercando di scoprire il prossimo nuovo oggetto, idea o cosa (…). Ma non pretende di dirci quanto controllo possiamo avere sul futuro. Questa è una proposta assurda in quanto il futuro non può essere controllato. Eppure la previsione lo sfida, poiché è intenta ad estendere il controllo. Gli algoritmi predittivi dovrebbero aiutarci a essere meglio preparati, ma, come abbiamo visto, possono anche indurci ad attribuire loro un’agenzia ingiustificata. (H. Nowotny, “In AI We Trust: Power, Illusion and Control of Predictive Algorithms” – traduzione in proprio)