I motori di raccomandazione online sono algoritmi usati da siti di informazione, da social media e da piattaforme di e-commerce con lo scopo di intercettare e guidare le preferenze degli utenti.

Si basano su criteri di somiglianza, tra oggetti di consumo (il libro A assomiglia al libro B, per esempio) e consumatori potenziali (ad esempio, il lettore X assomiglia al lettore Y).

Per fare questo, oggetti di consumo e consumatori vengono classificati sulla base di criteri. Nel caso degli oggetti, la classificazione è affidata ai fornitori e alle recensioni degli acquirenti; nel caso dei consumatori, essa coincide con la loro profilazione, in particolare con la cronologia dei loro comportamenti. Lo scopo pratico è conoscere interpretare i gusti del consumatore per suggerirgli acquisti in modo automatico.

Nella situazione attuale  questi sistemi di suggerimento aiutano il distributore  a decidere le offerte, ma in futuro potrebbero orientate la produzione vera e propria, anche in campo culturale: nel caso dei libri, ad esempio, software particolarmente evoluti potrebbero influenzare le scelte iniziali degli autori, favorendo il monopolio di chi possiede gli algoritmi più potenti e le quantità maggiori di dati.

Secondo Hindman, i sistemi di suggerimento

• aumentano molto il pubblico digitale di un sito;
• favoriscono le aziende con contenuti ampi, dinamici eteogenei;
• danno vantaggio a chi dispone di hardware potente e personale qualificato;
• avvantaggiano chi dispone di più dati;
• promuovono il lock-in;
• incoraggiano la concentrazione degli utenti.

Sono quindi strumenti di concentrazione oligopolistica secondo la legge di potenza.

Esposito chiarisce inoltre che:

Gli algoritmi utilizzati nello shopping predittivo (…) non rivelano come saranno le tendenze di acquisto dei consumatori (…) e o quali prodotti avranno una quota di mercato aumentata o diminuita. Al contrario, gli algoritmi anticipano e suggeriscono quali prodotti specifici un singolo consumatore sarà disposto ad acquistare, anche prima che l’individuo li scelga (…). I prodotti possono essere anche quelli che la persona non conosce, ma che l’algoritmo identifica come compatibili con le sue caratteristiche e con le scelte passate che lui o altre persone simili hanno compiuto, secondo criteri spesso imperscrutabili. Se la previsione dell’algoritmo è corretta e la persona acquista il prodotto, non è perché l’algoritmo ha visto il futuro in anticipo, in parte perché quel futuro non esisterebbe senza questo intervento. La persona non avrebbe pensato di acquistare quel prodotto e potrebbe non averne nemmeno saputo l’esistenza. Suggerendo il prodotto al futuro acquirente, l’algoritmo produce il futuro e quindi conferma se stesso o apprende dall’esperienza se il suggerimento viene rifiutato. Sia gli errori sia le previsioni corrette sono utili e aiutano l’algoritmo ad apprendere, confermando le sue strutture o la necessità di modificarle per tener conto di nuovi dati. (Elena Esposito, “Artificial Communication. How Algorithms Produce Social Intelligence”, MIT Press– rilasciato inCreative Commons, CC-BY-NC-ND)