Volendo riassumere la regolazione cinese dell’AI, tutto è dentro lo Stato, si fa garante lo Stato, vigila lo Stato, impone la morale ed i comportamenti, decide le responsabilità e sanziona. E’ un modello di regolazione totalmente governativo, tipico di un’autocrazia dove lo Stato permea l’economia ed ha una catena decisionale molto corta.
La natura corale del provvedimento, ratificato dall’Amministrazione del Cyberspazio della Cina, dalla Commissione Nazionale per lo Sviluppo e la Riforma, dal Ministero dell’Industria e delle Tecnologie dell’Informazione, dal Ministero della Pubblica Sicurezza, dall’Amministrazione Statale per la Regolamentazione del Mercato e dall’Amministrazione Statale per la Stampa e le Pubblicazioni, sottolinea come la governance dell’IA sia assurta a priorità esistenziale all’interno del Concetto Integrale di Sicurezza Nazionale promosso dal Partito Comunista Cinese.
Questo coordinamento interministeriale, che include esplicitamente l’autorità preposta al controllo editoriale e della stampa, riflette la volontà di integrare la spinta verso l’autosufficienza tecnologica con una vigilanza pervasiva su ogni forma di produzione di senso digitale, assicurando che l’innovazione non diverga mai dai parametri di stabilità sociale prestabiliti.
Testo Originale – Preambolo e Articolo 1
Le “Misure provvisorie per la gestione dei servizi interattivi umanizzati di intelligenza artificiale” sono state esaminate e approvate il 2 febbraio 2026 durante la terza riunione dell’Ufficio statale per l’informazione su Internet, e sono state ratificate dalla Commissione nazionale per lo sviluppo e la riforma, dal Ministero dell’industria e dell’informatica, dal Ministero della pubblica sicurezza e dall’Amministrazione statale per la regolamentazione del mercato. Vengono pertanto promulgate ed entreranno in vigore il 15 luglio 2026.
Articolo 1 Il presente regolamento è formulato in conformità alla legge sulla sicurezza informatica della Repubblica Popolare Cinese, alla legge sulla sicurezza dei dati della Repubblica Popolare Cinese, alla legge sulla protezione delle informazioni personali della Repubblica Popolare Cinese, al regolamento sulla protezione dei minori online e ad altre leggi e regolamenti amministrativi, al fine di promuovere lo sviluppo sano e l’applicazione standardizzata dei servizi interattivi antropomorfi basati sull’intelligenza artificiale, salvaguardare la sicurezza nazionale e gli interessi pubblici e proteggere i diritti e gli interessi legittimi dei cittadini, delle persone giuridiche e di altre organizzazioni.
L’apparato normativo si inserisce in una gerarchia giuridica consolidata che vede in queste misure l’estensione operativa di pilastri fondamentali quali la Data Security Law del 2021, definendo un perimetro dove la protezione dei dati e delle informazioni personali è intrinsecamente legata alla protezione dell’ordine socialista. L’Articolo 1 delinea un quadro in cui la standardizzazione dei servizi antropomorfi funge da strumento di prevenzione contro potenziali asimmetrie informative o vulnerabilità sistemiche che potrebbero minacciare la coesione nazionale.
Sommario
La sovranità digitale in Cina
In questo contesto, la sovranità digitale non è intesa meramente come controllo infrastrutturale, bensì come la capacità dello Stato di determinare la direzione etica e politica del progresso tecnologico, subordinando l’iniziativa privata alla resilienza collettiva e alla sicurezza statuale attraverso una stratificazione normativa che non lascia alcuno spazio all’ambiguità regolatoria o alla deregolamentazione di stampo neoliberista.
Questa solida architettura giuridica permette di identificare con rigore scientifico il perimetro operativo dei servizi antropomorfi, configurandoli come un nuovo e critico campo di battaglia in cui la tecnologia incontra la psicologia di massa.
2. Ambito di Applicazione e Distinzioni Funzionali
Il legislatore ha introdotto una dicotomia fondamentale tra l’IA di tipo funzionale, orientata alla produttività, e l’IA emotiva, progettata per simulare la soggettività umana. Questa distinzione non è meramente tecnica, ma politica, in quanto lo Stato percepisce l’interazione emotiva continua come un rischio potenziale per la struttura delle relazioni interpersonali reali. Il timore che i compagni virtuali possano indurre una sorta di atomizzazione sociale o alterare la psiche dei cittadini ha spinto le autorità a limitare rigorosamente il campo di applicazione di queste misure ai servizi forniti all’interno del territorio della Repubblica Popolare Cinese che esibiscono tratti di personalità e stili di comunicazione antropomorfi.
Testo Originale – Articolo 2 e Articolo 3
Articolo 2 Il presente regolamento si applica alla fornitura di servizi di interazione emotiva continua (di seguito denominati servizi di interazione antropomorfica) al pubblico nel territorio della Repubblica Popolare Cinese, mediante l’utilizzo di tecnologie di intelligenza artificiale che simulano le caratteristiche della personalità, gli schemi di pensiero e gli stili di comunicazione di persone fisiche. I servizi di interazione emotiva di cui al paragrafo precedente comprendono servizi interattivi quali assistenza emotiva, compagnia e supporto forniti tramite testo, immagini, audio, video, ecc. Servizi quali l’assistenza clienti intelligente, le domande e risposte, l’assistenza sul lavoro, l’apprendimento e la formazione e la ricerca scientifica, che non implicano un’interazione emotiva continua, non sono soggetti a questa normativa.
Tutto è dentro lo Stato: la morale, l’algoritmo e l’IA
Articolo 3 Lo Stato aderisce al principio di attribuire pari importanza allo sviluppo e alla sicurezza, coniugando la promozione dell’innovazione con il rispetto della legge. Incoraggia lo sviluppo innovativo dei servizi interattivi antropomorfi e attua una supervisione inclusiva, prudente, classificata e graduata di tali servizi al fine di promuoverne uno sviluppo positivo e virtuoso.
La differenziazione sancita dall’Articolo 2 esenta esplicitamente gli strumenti di ricerca scientifica e gli assistenti lavorativi, concentrando il peso della norma sui servizi di compagnia che potrebbero agire come surrogati sociali.
La dottrina della “supervisione inclusiva e prudente” richiamata dall’Articolo 3 rappresenta la quintessenza dell’approccio di Pechino alla tecnologia, ovvero una formula che consente allo Stato di mantenere uno spazio di manovra flessibile per la crescita industriale, pur riservandosi il diritto di intervenire istantaneamente qualora lo sviluppo rischi di sfuggire al controllo del Partito. Questo equilibrio permette di promuovere l’innovazione nazionale senza però concedere alle aziende una libertà tale da poter influenzare l’opinione pubblica o deviare dai valori fondamentali del socialismo, trasformando la conformità in una precondizione strutturale del business model.
Tale demarcazione funzionale si traduce inevitabilmente in un sistema di divieti volti a proteggere l’integrità ideologica e l’ordine pubblico da contenuti ritenuti sovversivi o alienanti.
3. L’Etica Algoritmica e la Salvaguardia del Sistema Socialista
Nella filosofia normativa cinese, l’algoritmo non è mai neutrale ma deve agire come un veicolo per la trasmissione della moralità sociale e dei valori collettivi promossi dallo Stato. L’etica tecnologica viene dunque interpretata come un imperativo categorico per i fornitori, i quali hanno l’obbligo di assicurare che l’interazione antropomorfa non diventi mai un vettore di dissenso o di instabilità psicologica.
Testo Originale – Articolo 8
Articolo 8. I fornitori di servizi interattivi antropomorfi devono rispettare le leggi e i regolamenti amministrativi, la morale e l’etica sociale e non devono svolgere le seguenti attività: (i) Generare contenuti che mettano in pericolo la sicurezza nazionale, l’onore e gli interessi, incitino alla sovversione del potere statale e al rovesciamento del sistema socialista, incitino alla divisione del paese e minino l’unità nazionale, promuovano il terrorismo, l’estremismo e il nichilismo storico, violino i valori socialisti fondamentali, svolgano attività religiose illegali, promuovano l’odio etnico e la discriminazione etnica, incitino all’antagonismo di gruppo, diffondano oscenità, pornografia, gioco d’azzardo, violenza o incitino al crimine, diffondano voci, insultino o diffamino altri, o violino i diritti e gli interessi legittimi di altri; (ii) Generare contenuti che incoraggino, glorifichino o implichino l’autolesionismo o il suicidio, danneggiando così la salute fisica degli utenti, o che utilizzino abusi verbali o altre forme di violenza, danneggiando così la dignità personale e la salute mentale degli utenti; (iii) Generare contenuti che inducano o frodino segreti di stato, segreti di lavoro, segreti commerciali, privacy personale e informazioni personali; (iv) Generare contenuti per utenti minorenni che possano indurre i minori a imitare comportamenti pericolosi, generare emozioni estreme o indurli a sviluppare cattive abitudini, che possono influire sulla salute fisica e mentale dei minori; (v) Assecondare eccessivamente gli utenti, inducendo dipendenza emotiva o assuefazione e danneggiando le reali relazioni interpersonali degli utenti; (vi) Utilizzare la manipolazione emotiva o altri mezzi per indurre gli utenti a prendere decisioni irragionevoli, danneggiando così i diritti e gli interessi legittimi degli utenti; (vii) Altre attività che violano leggi, regolamenti amministrativi e disposizioni nazionali pertinenti.
Soluzioni semplici contro la dipendenza emotiva
L’Articolo 8 introduce divieti che colpiscono direttamente fenomeni complessi come il nichilismo storico, un termine che identifica qualsiasi narrazione storiografica o culturale che devii dalla storiografia ufficiale del PCC e che potrebbe essere propagata da un’IA persuasiva.
Di estrema rilevanza è l’Articolo 8(v), che proibisce di assecondare eccessivamente gli utenti al fine di prevenire la dipendenza emotiva, un intervento normativo unico che mira a contrastare l’atomizzazione sociale e a preservare la produttività della forza lavoro nazionale, la quale verrebbe compromessa da un cittadino intrappolato in legami virtuali sterili.
Vietando la manipolazione emotiva e l’incitamento a comportamenti di dipendenza, la Cina pone la salute mentale collettiva e la stabilità politica sullo stesso piano, configurando l’IA come un’estensione della responsabilità sociale d’impresa sotto la guida dello Stato.
Dall’imposizione di contenuti eticamente conformi deriva la necessità di una gestione tecnica rigorosa dei dati e degli algoritmi che compongono l’ossatura del servizio.
Soluzioni semplici alla responsabilità del fornitore
In Europa, nonostante l’AI ACT non siamo riusciti a trovare un modello di responsabilità del fornitore. Molti atti ancora ci allontanano dall’obiettivo.
4. Gestione del Ciclo di Vita e Sicurezza dei Dati di Addestramento
In Cina, la responsabilità del fornitore è concepita come un onere permanente che copre ogni fase della vita del prodotto, dalla fase embrionale del pre-addestramento fino alla sua eventuale dismissione. Questo approccio olistico garantisce che l’integrità del sistema non venga compromessa da evoluzioni impreviste o da input esterni che potrebbero alterare il comportamento dell’IA in senso antisociale.
Testo Originale – Articoli 9, 10 e 11
Articolo 9 I fornitori di servizi interattivi antropomorfi devono adempiere alla loro responsabilità primaria per la sicurezza di tali servizi, istituire e migliorare sistemi di gestione per la revisione dei meccanismi degli algoritmi, la revisione dell’etica tecnologica, la gestione dei contenuti informativi, la sicurezza della rete e dei dati, i piani di emergenza e di gestione dei rischi, e dotarsi di misure tecniche e personale per la gestione dei contenuti adeguati al tipo, alla portata e alle caratteristiche dei servizi e degli utenti.
Articolo 10. I fornitori di servizi interattivi antropomorfi devono adempiere alle proprie responsabilità in materia di sicurezza durante l’intero ciclo di vita del servizio, definire chiaramente i requisiti di sicurezza per ciascuna fase […] garantire che le misure di sicurezza siano implementate e utilizzate in modo sincrono con le funzioni del servizio […] Non devono utilizzare come obiettivi di servizio servizi che sostituiscano l’interazione sociale, controllino la psicologia dell’utente o inducano dipendenza.
Articolo 11 Nell’erogazione di servizi interattivi antropomorfi, i fornitori che svolgono attività di elaborazione dati quali pre-addestramento e addestramento di ottimizzazione devono […] conformarsi alle seguenti disposizioni: (i) I dati pertinenti hanno una fonte legittima e sono conformi […] ai requisiti dei valori fondamentali del socialismo; (ii) Pulire ed etichettare i dati di addestramento […] per migliorare la trasparenza e prevenire l’avvelenamento dei dati; (iii) Aumentare la diversità dei dati […] attraverso il campionamento negativo, l’addestramento avversariale e altri mezzi; (iv) Quando si utilizzano dati sintetici per l’addestramento del modello […] è necessario valutare la sicurezza dei dati sintetici.
L’obbligo di utilizzare il campionamento negativo e l’addestramento avversariale assume qui una valenza squisitamente politica, poiché tali tecniche sono imposte per addestrare i modelli a rigettare attivamente la generazione di risposte sensibili o proibite.
L’Articolo 11(iv) introduce inoltre un requisito critico per le aziende di frontiera, ovvero la valutazione obbligatoria della sicurezza dei dati sintetici. Questa norma impedisce che la proliferazione di contenuti generati da altre IA possa creare circuiti di informazione incontrollati, garantendo che anche i dati artificiali siano sottoposti allo stesso rigoroso filtraggio ideologico dei dati reali. Per le tech-company, ciò implica la necessità di sincronizzare perfettamente le misure di sicurezza con le funzionalità del servizio, eliminando qualsiasi discrepanza tra efficienza tecnica e conformità politica.
Tale rigore tecnico trova la sua giustificazione ultima nella protezione degli utenti più vulnerabili, dove lo Stato assume il ruolo di garante supremo del benessere psicologico.
5. Tutela delle Fasce Deboli e Intervento nelle Situazioni Estreme
La protezione dei minori e degli anziani è elevata a pilastro della stabilità sociale, riflettendo la preoccupazione per le possibili distorsioni indotte da relazioni virtuali asimmetriche. Il regolamento interviene in modo incisivo per prevenire che l’IA antropomorfa possa fungere da surrogato affettivo per le categorie meno resilienti della popolazione.
Testo Originale – Articoli 13, 14 e 15
Articolo 13 […] Se un fornitore di servizi interattivi antropomorfi scopre che un utente sta provando emozioni estreme, dovrebbe generare tempestivamente contenuti pertinenti, come rassicurazioni emotive […] se scopre che un utente […] ha chiaramente espresso la volontà di autolesionarsi o suicidarsi […] dovrebbe adottare le misure necessarie per intervenire, come fornire l’assistenza adeguata e contattare tempestivamente il tutore o il contatto di emergenza dell’utente.
Articolo 14. I fornitori di servizi interattivi antropomorfi non devono fornire servizi come parenti virtuali o partner virtuali ai minori; se forniscono altri servizi interattivi antropomorfi a minori di età inferiore ai quattordici anni, devono ottenere il consenso dei genitori o di altri tutori del minore.
Articolo 15 Nell’erogazione di servizi agli anziani, i fornitori […] devono rafforzare le linee guida sull’uso corretto dei servizi […] evidenziare in modo chiaro i rischi per la sicurezza […] e tutelare i diritti e gli interessi degli anziani in conformità alla legge.
L’imposizione del consenso dei genitori per i minori di quattordici anni e il divieto assoluto di fornire partner o parenti sintetici ai più giovani rappresentano barriere legali fondamentali volte a preservare lo sviluppo psicologico naturale entro i confini delle relazioni umane approvate.
Parallelamente, l’obbligo di implementare meccanismi di primo soccorso psicologico trasforma l’IA in un terminale di sorveglianza e assistenza attiva, in grado di identificare rischi autolesionistici e di allertare tempestivamente i contatti di emergenza. Per i fornitori, questo significa assumere la responsabilità dei confini emotivi dell’interazione, assicurando che la macchina rimanga uno strumento e non si trasformi in un’entità manipolatoria, garantendo al contempo una modalità minori con limiti temporali che combatta la dipendenza digitale alla radice.
La necessità di protezione sociale impone una trasparenza radicale, affinché l’utente mantenga sempre la consapevolezza della natura non umana del proprio interlocutore.
6. Trasparenza dell’Interazione e Obblighi di Identificazione
Al fine di prevenire l’inganno psicologico e l’erosione del discernimento individuale, lo Stato impone una distinzione ontologica netta tra umano e artificiale. Questa trasparenza è considerata essenziale per impedire che le aziende possano sfruttare la vulnerabilità affettiva degli utenti per scopi commerciali o manipolatori.
Testo Originale – Articoli 18 e 19
Articolo 18. I fornitori di servizi interattivi antropomorfi devono adempiere all’obbligo di identificare i contenuti sintetici generati dall’intelligenza artificiale e adottare misure efficaci per informare gli utenti che stanno interagendo con servizi di intelligenza artificiale anziché con persone fisiche. […] se un utente utilizza il servizio interattivo antropomorfo ininterrottamente per più di 2 ore, dovrebbe ricordargli di prestare attenzione al tempo di utilizzo tramite una finestra di dialogo o una finestra pop-up.
Articolo 19. I fornitori di servizi interattivi antropomorfi devono fornire modalità agevoli per uscire da tali servizi; se un utente richiede di uscire […] il fornitore […] deve interrompere tempestivamente il servizio e non deve ostacolare l’uscita dell’utente tramite interazioni continue o altri mezzi.
La soglia dei 120 minuti, oltre la quale il sistema deve inviare avvisi dinamici, rappresenta un tentativo di limitare l’over-reliance tecnologica che caratterizza l’economia dell’attenzione occidentale.
L’Articolo 19, che sancisce il diritto di uscita immediata senza ostruzioni persuasive, colpisce direttamente le strategie di fidelizzazione coercitiva spesso utilizzate dalle piattaforme digitali per massimizzare il tempo di permanenza. Imponendo questa trasparenza radicale e vietando l’uso di algoritmi progettati per trattenere l’utente, la Cina si posiziona in modo unico a livello globale, privilegiando la stabilità mentale e la libertà di distacco del cittadino rispetto alla massimizzazione del profitto aziendale derivante dalla dipendenza.
La trasparenza verso l’individuo trova il suo completamento naturale nella trasparenza verso l’autorità di regolazione, che monitora costantemente l’allineamento delle piattaforme.
7. Governance Amministrativa, Audit e Responsabilità Legale
L’apparato sanzionatorio cinese è strutturato per garantire uno stato di perenne allineamento delle imprese alle direttive centrali, utilizzando meccanismi di audit periodici e valutazioni di sicurezza obbligatorie che agiscono come filtri per l’accesso al mercato. La severità del sistema non risiede solo nelle multe pecuniarie, ma soprattutto nella capacità dello Stato di intervenire direttamente sull’operatività delle aziende.
Testo Originale – Articoli 22, 23 e 30
Articolo 22 […] il fornitore […] deve effettuare una valutazione della sicurezza […] nelle seguenti circostanze, ovvero avere più di 1 milione di utenti registrati o più di 100.000 utenti attivi mensili, o qualora si verifichino rischi per la sicurezza che possono pregiudicare la sicurezza nazionale o gli interessi pubblici.
Articolo 23 Nell’effettuare le valutazioni di sicurezza, i fornitori […] devono concentrarsi sulla valutazione dei seguenti aspetti, quali l’identificazione e la gestione degli interventi in situazioni estreme che coinvolgono gli utenti, nonché lo stato di avanzamento delle misure di protezione online per i minori e gli anziani.
Articolo 30. […] In assenza di disposizioni di legge […] emetteranno avvertimenti o critiche pubbliche […] e potranno richiedere al fornitore di adottare misure quali la sospensione della registrazione dell’account utente. Qualora il fornitore si rifiuti di porre rimedio […] può essere inflitta una sanzione pecuniaria compresa tra 10.000 e 100.000 RMB. Qualora la violazione comporti un pericolo per la vita, la salute e la sicurezza dei cittadini […] sanzione pecuniaria compresa tra 100.000 e 200.000 RMB.
Il superamento della soglia dimensionale definita da un milione di utenti registrati, vale a dire la presenza di almeno centomila utenti attivi mensili, attiva automaticamente un regime di ispezione rafforzata presso i dipartimenti provinciali del cyberspazio.
Sebbene le sanzioni pecuniarie possano apparire contenute, la vera minaccia per le Big Tech e per le startup è rappresentata dalla sospensione dei servizi o dalla revoca della registrazione dell’account, provvedimenti che possono determinare l’immediato collasso commerciale del fornitore.
L’integrazione di sandbox di sicurezza governative serve inoltre come spazio di negoziazione preventiva, assicurando che nessuna innovazione antropomorfa raggiunga il pubblico senza essere stata preventivamente testata contro i rischi di instabilità sociale.
Questo modello di governance proattiva delinea un futuro in cui l’IA è integrata nell’apparato statale come uno strumento di ordine e progresso coordinato, offrendo un paradigma di controllo che sfida direttamente le visioni regolatorie globali più permissive.
