Come realizzare una società “virtuosa” e come monitorarla per mantenere l’armonia, il bene comune, e la stabilità di chi la controlla.
Grazie al web, siamo ormai abituati ad effettuare i nostri acquisti su Amazon, ad usufruire di un servizio della sharing economy, o a prenotare il luogo della nostra prossima vacanza su Booking.com, dando un’enorme importanza al giudizio (rating) degli altri.
E se, ad essere sottoposti al giudizio fossimo noi stessi in quanto parte di una comunità, di una società, di cittadini di una nazione? Dall’altra parte della Terra stanno già lavorando su qualcosa del genere, vediamo di capirne di più.
Social Ranking
In Nosedive (in italiano Caduta libera), un episodio della popolare serie tv Black Mirror, la protagonista Lacie, vive in una società in cui ogni individuo ha un punteggio personale basato sulle valutazioni fornite dal resto della popolazione. Le modifiche a questo punteggio possono avere gravi conseguenze socioeconomiche, come avere diritto a un appartamento di lusso o un viaggio in aereo. Avere un punteggio basso, viceversa, escluderebbero Lacie dalle parti più raffinate della società.
Molti articoli che ho letto per informarmi sull’argomento hanno come incipit questo episodio della serie distopica inglese. In effetti è un buon punto di partenza per ragionare su alcune similitudini con ciò che si sta effettivamente realizzando da qualche anno nella Repubblica Popolare Cinese.
Il Credito Sociale Cinese
Nel 2014, il Partito Comunista Cinese ha pubblicato il Piano per la costruzione di un sistema di credito sociale (2014-2020), un documento volto ad “aumentare la consapevolezza riguardo l’importanza dell’integrità e del livello di credibilità all’interno della società“1 e migliore la fiducia all’interno del mercato cinese.
Ogni singolo cittadino, ente o impresa cinese vedrà assegnarsi un vero e proprio credito sociale sulla base delle azioni compiute nella vita reale e del comportamento tenuto sui social.
Attualmente, il sistema di credito sociale è già in vigore in maniera sperimentale e limitato a livello nazionale, anche se non in maniera omogenea, mentre in alcune regioni è già in fase piuttosto avanzata, sono circa 40 i progetti pilota gestiti dai governi locali.
Nel 2015, inoltre è stata concessa la licenza ad otto aziende, tra cui le onnipresenti Tencent (WeChat) e Alibaba, affinché cominciassero a sviluppare dei prototipi di sistemi di credito.
Credit Score per i cittadini
Il sistema mira a valorizzare e premiare, tramite badge simili a quelli dei videogiochi, chi compie azioni ritenute positive, come volontariato, donare il sangue o lodare sui social network l’operato del governo, e punire tutti quei comportamenti negativi, ad esempio incorrere in delle multe, ricevere segnalazioni dalle autorità, debiti non pagati.
Chi ha punteggi alti, ritenuto affidabile, potrà godere dei privilegi previsti dal sistema (corsie preferenziali negli aeroporti, negli ospedali e negli uffici comunali, accesso facilitato a finanziamenti), e potrà vedere la sua foto apposta in bacheche cittadine che lo celebrano come cittadino modello. Viceversa chi ha punteggi bassi verrà considerato un cittadino di seconda classe con la preclusione di beni ritenuti “di lusso” (acquisto di biglietti per voli domestici, treni veloci, esclusioni da scuole private) o all’accesso ad offerte di lavoro o mutui.
Credit Score nelle imprese
Per le imprese, il sistema di credito sociale è destinato a fungere da meccanismo di regolamentazione del mercato: basato su tecnologie avanzate per l’analisi di big data, il sistema è progettato per monitorare e valutare costantemente il comportamento economico ed etico delle aziende.
Come attualmente previsto, le società con buoni punteggi godranno di vantaggi quali: buone condizioni di credito, aliquote fiscali più basse e maggiori opportunità di investimento. Le società con cattivi punteggi dovranno affrontare condizioni potenzialmente sfavorevoli per accedere a nuovi prestiti, aliquote fiscali più elevate, restrizioni agli investimenti e minori possibilità di partecipare a progetti finanziati con fondi pubblici.
I piani del governo prevedono anche il monitoraggio in tempo reale delle attività di un’azienda. Le infrazioni potrebbero quindi comportare un punteggio ridotto quasi istantaneamente.
Tuttavia, se ciò accadrà effettivamente dipenderà dalla futura implementazione del sistema, nonché dalla disponibilità della tecnologia necessaria per questo tipo di monitoraggio.
Il Grande Fratello
Secondo i sostenitori, il sistema di credito sociale cinese ha tutto il potenziale per trasformarsi in un potente strumento di elaborazione dati, che non solo eviterà attività illegali, ma aiuterà anche a regolare il mercato in un paese che è ancora tormentato da frodi e contraffazione dilagante.
I critici, invece, affermano che tale sistema viola lo stato di diritto e i diritti legali, in particolare il diritto alla reputazione, il diritto alla privacy e la dignità personale, e soprattutto che il sistema può essere uno strumento per una completa sorveglianza del governo e per la repressione del dissenso verso il Partito Comunista Cinese.
Il sistema potrebbe essere, infatti, strettamente correlato ai sistemi di sorveglianza di massa, già piuttosto avanzati, in Cina2, che incorporano il sistema di riconoscimento facciale, la tecnologia di analisi dei big data e l’IA.
Leggi anche:
Il lato chiaro e oscuro dei Big Data
Tuttavia, la portata, la scala, la diversità e il linguaggio del sistema in evoluzione hanno causato molta confusione, in particolare per quanto riguarda l’esistenza di un singolo punteggio di credito sociale per ogni cittadino. Non esiste ancora oggi un “punteggio di credito sociale” nazionale.
Non si conosce ancora la reale misura di cosa rappresenti complessivamente il sistema di credito cinese, quali saranno i suoi sviluppi futuri, sia nel campo privato sia in quello business, o come l’emergenza sanitaria legata al Covid-19 possa influenzare l’evoluzione del piano e più in generale quelli legati alla crescente sorveglianza di massa.
E’ solo una questione cinese?
Se da un parte il progetto cinese è unico nel tentativo di creare una struttura di controllo centralizzato, è anche vero che a livello globale stiamo assistendo a qualcosa di simile nel campo dell’industria tecnologica, in particolare, attraverso la sorveglianza da parte dei social media.
Le carte fedeltà e tutti i programmi di affiliazione, ormai presenti in qualsiasi relazione tra azienda e consumatore, garantiscono indubbiamente tutta una serie di vantaggi per quest’ultimo. Ma, allo stesso tempo, anche la conoscenza sempre più intima e approfondita da parte dell’azienda degli interessi del suo cliente.
Il profiling è in atto, inoltre, da parecchi anni in settori privati come quello delle compagnie aeree: non è molto difficile essere inseriti in delle blacklist in caso di violazione della regolamentazione del settore aereo o più comunemente delle regole che si accettano quando si compra un biglietto di una compagnia aerea.
Un altro esempio riguarda le compagnie di assicurazione sulla vita, le quali possono basare i premi su ciò che trovano nei post sui social media. Avere ad esempio nel proprio profilo social una foto mentre si fa climbing potrebbe compromettere il contratto con l’assicurazione.
Un altro esempio riguarda Uber, uno dei più significativi esempi della sharing economy: se un cliente riceve un rating “significativamente al di sotto della media”, quel cliente può essere bandito dall’usufruire del servizio in futuro.
Se questa tendenza continuerà è possibile che in futuro la maggior parte delle infrazioni, e chissà, persino alcuni reati, non saranno puniti da un tribunale, ma gestiti da un azienda di Shenzhen o della Silicon Valley.
In altre parole, il rischio, che oggi può apparire distopico, è che l’applicazione della legge potrebbe essere determinata meno dalle leggi nazionali e più dagli accordi di licenza con l’utente finale.3
***
“La società del credito sta arrivando. Sei pronto? Qual è il tuo punteggio di credito?”4
***
Fonti e approfondimenti
- Wired.com – Inside China’s Vast New Experiment in Social Ranking (in inglese, 2017)
- Wired.it – La Cina darà un punteggio social ai suoi cittadini dal 2020 (2017)
- Wired.com – How the West Got China’s Social Credit System Wrong (in inglese, 2019)
Riferimenti:
- gov.cn – Avviso del Consiglio di Stato sull’emissione del profilo del piano di costruzione del sistema di credito sociale (2014-2020) (in cinese)
- Abacusnews – “Skynet”, China’s massive video surveillance network (in inglese, 2018)
- FastCompany.com – Uh-oh: Silicon Valley is building a Chinese-style social credit system (in inglese, 2019)
- xinhuanet.com – Sei pronto per la società del credito? (in cinese, 2017)