Siamo sinceri. Il tormentone della democrazia elettronica è durato poco. L’arco storico dei social media come luogo di incontro, di confronto, di crescita e di pluralismo ha descritto una curva molto rapida, fino ad arrivare a scalfire la partecipazione democratica al dibattito pubblico online. E lo ha fatto rapidamente, in modo tanto silenzioso quanto brutale.
Ve lo ricordate Facebook agli albori? Tutti i social erano nati sotto l’auspicio della “Primavera Araba” come strumenti di liberazione, di incontro. Dopo poco si sono rapidamente evoluti in apparati di sorveglianza e manipolazione di massa. Questa trasformazione non è stata casuale ma voluta, ed è stata guidata dall’adozione di algoritmi di raccomandazione che, operando sotto il velo del capitalismo della sorveglianza, hanno smesso di “connettere le persone” per iniziare a catturare l’attenzione degli utenti, profilati, indirizzati, normalizzati.
Oggi, tuttavia, siamo alla vigilia di una transizione ancora più insidiosa: il passaggio dai social media tradizionali ai chatbot basati su intelligenza artificiale generativa, specialmente quelli più diffusi. Se nel vecchio paradigma era possibile, almeno in teoria, tracciare quali contenuti avessero bersagliato un utente nella piazza pubblica digitale, l’interazione con un’IA avviene in una dimensione chiusa, duale.
È un rapporto duale, invisibile a chiunque tranne che al fornitore del servizio che si avvantaggia della raccolta a strascico dei dati della vita delle persone. Abbiamo normalizzato anche questo. Le grandi corporation dell’innovazione americana sono diventate tecnomonarchie assolute in breve tempo. Questa natura privata del rapporto tra uomo e intelligenza artificiale, trasforma il chatbot in un persuasore occulto senza precedenti, capace di agire nella psiche individuale senza i pesi e i contrappesi della visibilità sociale, minando alla base la tenuta stessa dei sistemi democratici.
Era accaduto con i social networks, si ripete, in modo più profondo con l’intelligenza artificiale. In questi anni abbiamo perso il diritto sui dati delle nostre vite, scambiando l’innovazione senza consenso con la cessione della nostra libertà. Adesso il nuovo rischio è ben più subdolo e complesso
Il rischio per la nostra sovranità cognitiva è un’urgenza prioritaria.
E lo capiamo bene se pensiamo che i sistemi conversazionali possono spostare fino al 20% delle opinioni degli utenti. La vera criticità risiede nella “credibilità del falso”, quello che Montale chiamava “il potere allucinatorio del più vero del vero”, che però è falso. Ecco che se la macchina genera allucinazioni e fatti inventati su misura, accade che l’utente medio, pigro nel fact-checking, assorbe tutto l’output come verità. Ma l’aspetto più inquietante è che, anche una volta informati della manipolazione, gli individui tendono a mantenere l’opinione acquisita. Non si accorgono del raggiro nemmeno se posti di fronte all’evidenza.
Questo accade, perchè l’IA interviene a livello precognitivo: non si limita a suggerire cosa pensare, ma altera i meccanismi stessi del pensiero, intervenendo prima ancora che l’opinione si cristallizzi. Fateci caso. Se l’autonomia decisionale del cittadino viene compromessa alla radice, la democrazia cessa di essere un esercizio di volontà per diventare un output algoritmico. Cosa devo votare al referendum? Te lo suggerisce, si la macchina, ma dopo aver costruito un castello di indirizzi subdoli verso una presa di coscienza di giudizi mascherati da teorie, o da prove.
Questa minaccia psicologica è alimentata da una logica economica ferrea con cui impareremo a confrontarci e a discutere nei prossimi mesi. Ed è l’economia dell’inferenza. La scalabilità di questi sistemi dipende dall’abbattimento dei costi di calcolo. Oggi sta già accadendo perchè le grandi BigTech assorbono interamente costi e rischio dell’investimento, ma in un prossimo futuro, i social media saranno interamente basati su interfacce chat supportate dal marketing. Dalla pubblicità pagata con il tuo tempo. La tua attenzione.
In questo scenario, è facile che la persuasione operi per conto terzi. Pensate ad un agent AI che sceglie per te la vacanza. Ne abbiamo già discusso. E’ un maggiordomo infedele che opera per conto di terzi. Non è una semplice comodità.
Tuttavia, in Europa, ogni tentativo di regolamentazione viene accolto dal mito stantio della “burocrazia che uccide l’innovazione”. Si tratta di un’interpretazione errata dei numeri, spesso usata come cortina di fumo da chi non comprende il vero divario geopolitico. Si parla di bruxelles effect. Spesso a sproposito.
Certamente gli atti normativi europei sono scritti complessi con migliaia di pagine. In questa complessità c’è il costo della democrazia. Il rischio è altissimo.
Non è la conformità normativa a frenare l’Europa , basti pensare che nonostante la Brexit, Londra non è riuscita a mantenere le strategie su data center e intelligenza artificiale.
Per colmare questo vuoto, l’Europa deve smettere di subire l’immobilismo dei propri intermediari finanziari. La sovranità digitale è una parola vuota se non si traduce in coerenza operativa.
È inaccettabile che i governi europei firmino solenni impegni di sovranità a Berlino per poi, il giorno dopo, emettere bandi di gara in cui la tecnologia di vendor americani è già pre-specificata nei requisiti tecnici.
Questa ipocrisia istituzionale sta smantellando la nostra base industriale.
La regolamentazione deve essere il fondamento su cui costruire alternative sovrane che rispondano ai valori europei, ma queste alternative necessitano di un mercato pubblico che le sostenga e di capitali che le facciano crescere.
Franco Bassanini di Astrid ha proposto un fondo sovrano europeo. Il nobel Giorgio Parisi il CERN dell’intelligenza artificiale.
La sovranità cognitiva e quella economica sono intimamente connesse, del pari la nostra capacità di difesa. E se non avremo la forza finanziaria per proteggere la prima, la nostra democrazia diventerà un fossile tecnologico controllato da infrastrutture altrui. Il tempo per agire è ora.
