Soros, i rischi del social credit system cinese e l’analogia con Black Mirror

DI VITTORIO PELLIGRA

ilsole24ore.com

La notizia circola ormai dal 2014, ma si è riproposta agli osservatori dopo che George Soros ne ha fatto il centro di un suo discorso al World Economic Forum di Davos, la settimana scorsa. “Voglio portare la vostra attenzione – dice Soros durante una cena privata – sul pericolo mortale che le società aperte si trovano a fronteggiare a causa degli strumenti di controllo che il machine learning e l’intelligenza artificiale possono mettere nelle mani dei regimi repressivi. Il social credit system non è ancora pienamente operativo ma è già chiaro verso cosa ci stiamo dirigendo. Il destino individuale verrà subordinato agli interessi dello Stato-partito in modi che la storia non ha ancora conosciuto”. Queste le allarmate parole di Soros a proposito del “social credit system”, il meccanismo che il Governo cinese sta sperimentando da tempo per valutare, attraverso un complicato sistema di feedback e ratings, l’”affidabilità” dei propri cittadini.

Il meccanismo è semplice e si fonda su un’idea vecchia quanto il mondo, quella di “reputazione”. Dalle società primordiali, alle prime esperienze di interazioni economiche a lunga distanza, fino alle moderne piattaforme di e-commerce, il capitale reputazionale è ciò che ha reso possibile l’esplosione degli scambi commerciali minimizzandone il rischio e moltiplicando le opportunità di guadagno. La stessa logica che ci fa ritornare dal meccanico o dal parrucchiere “di fiducia”, favorisce i miliardi di transazioni che avvengono su Amazon o Aliexpress. Affinché quel meccanico diventi il nostro meccanico “di fiducia” dobbiamo giocare con lui un gioco ripetuto, giorno dopo giorno valutiamo la sua affidabilità con il sottointeso condiviso che alla prima fregatura il rapporto si interromperà. In questo modo il meccanico, nonostante l’asimmetria informativa che lo mette in netto vantaggio sul cliente, dovrà scegliere tra un forte, ma singolo, guadagno, o minori profitti, ma ripetuti nel tempo. La teoria dei giochi, il folk theorem in particolare, mostra che sotto certe condizioni il meccanico avrà un forte incentivo a investire in reputazione. A rinunciare, cioè, al guadagno immediato e preferirne uno maggiore, ma diluito nel tempo.

CONTINUA QUI