Una società cinese, secondo il NYT, starebbe cercando di sviluppare una tecnologia basata sull’intelligenza artificiale che consentirebbe ai governi autoritari non solo di monitorare i dissidenti, ma anche di prevedere chi potrebbe diventarlo in futuro. Il lavoro, ancora in fase di ricerca, sembra uscito da una distopia fantascientifica e offre uno sguardo su un mondo in cui uno Stato autoritario potrebbe intervenire contro i propri cittadini prima ancora che questi esprimano qualsiasi forma di dissenso pubblico
di Andrea Pinto
La società cinese Geedge Networks vende una versione commerciale del Great Firewall, il sistema di sorveglianza e censura utilizzato dalla Cina per controllare l’attività online. Questi strumenti permettono ai governi di monitorare il traffico Internet e individuare chi tenta di aggirare la censura tradizionale.
L’azienda starebbe lavorando a nuovi prodotti che utilizzano l’intelligenza artificiale per analizzare dati di localizzazione e utilizzo di Internet con l’obiettivo di prevedere chi potrebbe criticare il governo. Il rapporto è stato stilato dai ricercatori della Vanderbilt University. Nonostante i progressi , non ci sono prove che Geedge abbia già completato o implementato pienamente tali tecnologie. Le autorità statunitensi ritengono però che le aziende cinesi stiano lavorando attivamente in questa direzione. Secondo esperti, il problema principale resta la quantità enorme di dati da elaborare: intercettazioni, video, dati telefonici. Se perfezionata, una tecnologia del genere offrirebbe ai regimi autoritari uno strumento potentissimo contro i presunti nemici. L’idea di un’intelligenza artificiale capace non solo di osservare il comportamento umano, ma di anticiparne le intenzioni politiche, segna un passaggio qualitativo nella storia della sorveglianza: dal controllo delle azioni al controllo delle possibilità.
Non si tratta più soltanto di “vedere” ciò che accade, ma di prevedere ciò che potrebbe accadere. È qui che la tecnologia smette di essere neutrale e diventa architettura del potere. Il punto centrale non è soltanto la Cina, né un singolo attore industriale. Il nodo è la convergenza tra tre elementi: enormi masse di dati personali, capacità algoritmica avanzata e assenza di limiti istituzionali efficaci. Quando questi fattori si combinano, la previsione del comportamento umano diventa una funzione tecnica, non più una valutazione politica o giudiziaria.
Il rischio più profondo non è la precisione del sistema, ma la sua autorevolezza percepita. Un modello predittivo che “stima” un potenziale dissidente tende a trasformarsi in una profezia che si autoavvera: chi viene segnalato viene monitorato, chi viene monitorato viene limitato, chi viene limitato finisce per essere definito “rischioso”. In questo schema, la libertà non viene repressa in modo esplicito, ma progressivamente erosa attraverso micro-decisioni automatizzate.
C’è poi una questione meno discussa ma cruciale: la dipendenza infrastrutturale. La capacità di calcolo diventa un fattore geopolitico tanto importante quanto l’energia o le materie prime. I controlli sulle GPU e sui chip avanzati non sono solo misure economiche, ma strumenti di contenimento tecnologico tra potenze globali. Tuttavia, affidare la tutela dei diritti umani esclusivamente a restrizioni tecnologiche esterne è illusorio. La storia mostra che ogni limite tecnico stimola percorsi alternativi: ottimizzazione dei modelli, uso di hardware meno avanzato, nuove architetture di raccolta dati.
Il vero discrimine, quindi, non è soltanto “chi può fare cosa”, ma “chi decide i limiti di ciò che è lecito sapere su un cittadino”.
La sorveglianza predittiva introduce una frattura concettuale: non si punisce più il comportamento, ma la probabilità del comportamento. È un cambio di paradigma che interroga direttamente il diritto moderno, costruito sull’azione e non sull’intenzione stimata da una macchina. In ultima analisi, la domanda non è se questa tecnologia funzionerà perfettamente. La domanda è più scomoda: quanto errore siamo disposti a tollerare quando l’errore ha conseguenze politiche e personali irreversibili.