Huyskes afferma

Questa segregazione è possibile perché queste analisi si basano su politiche riduttive dell’identità. Ridurre all’osso, cancellare la complessità, isolare i valori anomali, distinguere e classificare, sta alla base di questi metodi di analisi. Non è una considerazione politica, è il motivo del loro successo. Il motivo per cui, in tanti ambiti, sono così estrememante utili e da incoraggiare. Ma la logica su cui si basano è positivista, e pone tutte le categorie come immutabili. In questo risiede il loro più grande rischio sociale (…) Nell’intelligenza artificiale applicata alle decisioni, a meno che non sia espressamente richiesto, il divenire non esiste. Le differenze, come già nelle prime analisi statistiche, sono l’unico modo di plasmare le somiglianze, ma le nostre nuove tecnologie fanno sembrare innocui e ingenui gli antichi sistemi di classificazione e previsione deterministici. Oggi, le identità, le differenze e le somiglianze che passano per queste analisi sono profezie che si autoavverano. (…) Nell’intelligenza artificiale applicata alle decisioni, a meno che non sia espressamente richiesto, il divenire non esiste. Le differenze, come già nelle prime analisi statistiche, sono l’unico modo di plasmare le somiglianze, ma le nostre nuove tecnologie fanno sembrare innocui e ingenui gli antichi sistemi di classificazione e previsione deterministici. Oggi, le identità, le differenze e le somiglianze che passano per queste analisi sono profezie che si autoavverano. (…) . La somiglianza, dal punto di vista matematico, era stata calcolata usando delle caratteristiche trattate come oggettive, non come assi di oppressione più sistematici o istituzionali, per cui, nel suo caso e in quello di tante altre persone discriminate automaticamente, viene fatta passare l’idea che la segregazione sia sicuramente una scelta personale (ovvero i casi positivi di frode, dove le persone sono da ritenere colpevoli), e non storica o istituzionale. (D. Huyskes, “Tecnologia della rivoluzione. Progresso e battaglie sociali“)