Il “gigante cinese” ha ormai trasformato le intelligenze artificiali in strumento di controllo della società. Un modello da seguire o da temere?
Le macchine rimangono ancora intelligenze che apprendono solo per fini preordinati, quindi ancora lontane dal vero intelletto. Stiamo comunque insegnando ai computer modi per implementarsi da soli; inoltre le tecnologie di riconoscimento sono ormai diffuse ovunque. La combinazione delle due cose comporta conseguenze che se non controllate porteranno effettivamente ad una vera e propria distopia. Negli ultimi 15-20 anni i progressi in questo settore sono stati stupefacenti; l’intelligenza artificiale promette di stupirci ancora, le nuove reti di dati permetteranno ai nostri dispositivi di dialogare tra di loro in modo sempre più rapido. Le informazioni a disposizione nel cloud finiranno per implementare il machine learning. Saranno i dati a cambiare il mondo. La quantità di informazioni che i nostri dispositivi possono immagazzinare sono esponenziali, le reti possono trasmettere le informazioni in tempo reale e lo spettro del controllo di massa si materializza sempre di più.
Possiamo ormai controllare cittadini in strada, dipendenti, medici e Forze di Polizia. La Hangzhou Zhongheng Electric, azienda di prodotti hi-tech situata a Hangzhou, vicino Shanghai, ha già messo in pratica queste nuove tecnologie: i suoi lavoratori operano sulla catena di montaggio indossando un caschetto che al suo interno ha sensori wireless che monitorano in continuazione le onde cerebrali e comunicano questi dati ai computer che, grazie all’intelligenza artificiale, individuano i picchi emotivi legati ad ansia, depressione o rabbia. La produttività prima di tutto; la privacy, il pensiero mai detto, passa decisamente in fondo alla lista delle priorità.
In Cina ormai l’unione tra diffusione delle telecamere, software di riconoscimento facciale e ossessione per la produttività e per la “pace sociale” ha permesso di controllare le persone. Si acquistano o perdono punti sociali, che ad esempio permettono di spostarsi all’interno e fuori dalla Cina, semplicemente sputando a terra, comprando merci straniere o attraversando fuori dalle strisce pedonali. La “polizia del pensiero” è ormai una realtà.
Xue Liang. Occhio di falco. Questo il nome del programma di videosorveglianza a tappeto del presidente Xi Jinping. L’efficacia e la malvagità del sistema si fonda sull’integrazione di più strumenti. Per prima cosa il sistema nazionale di credito sociale: un insieme di “modelli” per verificare l’affidabilità delle persone associandole a un punteggio e a blacklist. Lo strumento è inteso a valutare e dunque prevenire la condotta di ogni cittadino cinese in ogni ambito; dall’accesso al credito alla tendenza alla commissione dei crimini.
In secondo luogo il già citato network di sorveglianza onnipresente. Il network è già totalmente connesso e prevede progetti di videosorveglianza di massa che incorporano la tecnologia di riconoscimento facciale ed emozionale; software di riconoscimento vocale in grado di identificare gli altoparlanti durante le telefonate; e un programma ampio e invadente di raccolta del DNA. Gli operatori di telefonia in Cina hanno oggi l’obbligo di registrare le scansioni facciali di chi compra un nuovo numero di telefono o un nuovo smartphone. Come dichiarato a settembre dal ministero cinese dell’Industria e dell’information technology, tale decisione mira «a tutelare i diritti legittimi e gli interessi dei cittadini online».
Per finire, il Great Firewall cinese, funge da strumento di sorveglianza e da scudo contro migliaia di siti Web che il governo cinese ritiene inappropriati.
Lorenzo Baldarelli
