Dall’inizio dell’anno sulla piattaforma online X circola un numero enorme di immagini sessualmente esplicite generate dal sistema AI di immagini basato sull’intelligenza artificiale Grok. Le immagini raffiguravano prevalentemente donne e spesso erano generate o manipolate a partire da foto reali senza il loro consenso. Secondo gli analisti , le immagini create da Grok, che presumibilmente mostravano bambini di età compresa tra 11 e 13 anni in pose ambigue, sono state condivise anche sui forum online.

Ciò è reso possibile da una funzione di editing di immagini disponibile su Grok. A dicembre 2026, xAI, l’azienda responsabile di Grok, ha rilasciato un nuovo modello di immagine le cui immagini appaiono ancora più realistiche, ma che allo stesso tempo non offre praticamente alcuna protezione per prevenire fenomeni di abusi o reati, in quanto presumibilmente consente violazioni dei diritti di tutela dei minori e della privacy.

A fronte di noti episodi di cronaca, anche in Italia, sono emerse dure reazioni da parte dei politici di tutto il mondo. Il portavoce della Commissione Europea, Thomas Regnier, ha definito le pratiche “illegali” e “disgustose”, dichiarando che non c’era posto per loro in Europa. Il Ministro della Cultura Wolfram Weimer ha dichiarato a Reuters che si tratta di una “industrializzazione delle molestie sessuali”.

Il 9 gennaio 2026 X ha finalmente limitato severamente la generazione di immagini: da allora è disponibile solo per gli abbonati paganti, che è veramente poca cosa, perchè significa che la creazione di contenuti corrispondenti rimane possibile, ma gli utenti paganti sono identificabili.

La creazione e la distribuzione di rappresentazioni sessuali o a sfondo sessuale di bambini e adolescenti è un reato, è irrilevante che il contenuto sia reale o generato dall’intelligenza artificiale.

Per gli adulti , i deepfake sono illegali principalmente se creati contro la volontà delle persone raffigurate, soprattutto in contesti sessualizzati o diffamatori. Le persone interessate possono richiedere un’ingiunzione e, se necessario, un risarcimento.

Il Digital Services Act entra in azione

IL Digital Services Act (DSA) europeo obbliga le grandi piattaforme online come X ad analizzare e mitigare costantemente i rischi sistemici derivanti dai loro servizi. I deepfake e la violenza di genere sono esplicitamente elencati come rischi rilevanti dalla legge. Con l’entrata in vigore dell’AI ACT europeo, la mancata etichettatura di tali contenuti costituirebbe anche una violazione del diritto dell’UE, a meno che la scadenza non venga posticipata dal Digital Omnibus. La piattaforma è inoltre responsabile non appena viene a conoscenza di una violazione legale.

La Commissione Europea ha ordinato a X di conservare i documenti e i dati interni pertinenti fino alla fine del 2026. La Commissione ritiene che si tratti di una raccolta di prove nell’ambito dell’indagine in corso contro X , non di un nuovo procedimento legale. Il mese scorso, la Commissione Europea ha già imposto una sanzione di 120 milioni di euro per violazioni degli obblighi di trasparenza. Ulteriori valutazioni, ad esempio in merito a incitamento all’odio e manipolazione delle informazioni, sono ancora in sospeso. La decisione della piattaforma di limitare l’accesso alla generazione di immagini tramite intelligenza artificiale agli utenti paganti è stata recentemente ritenuta insufficiente sia dalla Commissione Europea che dal governo britannico.

Nella pratica, le persone interessate e danneggiate dai deepfake hanno spesso opzioni limitate per difendersi in modo rapido ed efficace dalla diffusione delle immagini artefatte con AI. Diventano quasi irremovibili da Internet. Anche quando l’identificazione dell’autore del reato è possibile, ammesso che sia fattibile, il contenuto in questione si è spesso già ampiamente diffuso.

Il ruolo del Digital Services Coordinator e i nuovi problemi emersi tra tensioni geopolitiche e Digital Omnibus

La formazione negli Stati Membri di un comitato consultivo del Digital Services Coordinator (DSC) segna un momento cruciale per l’architettura della governance digitale europea. In un contesto dove la tecnologia corre più veloce delle leggi, emerge chiara la necessità di una guida accademica e tecnica solida per navigare tra le complessità del Digital Services Act (DSA).

Uno dei temi più caldi emersi dal dibattito riguarda la sovranità e l’indipendenza delle istituzioni europee. Le sanzioni statunitensi contro esponenti di organizzazioni europee è uno di questi, e il dibattito si sposta immediatamente sul fatto che se i consulenti o i “segnalatori attendibili” (Trusted Flaggers) possono essere influenzati da pressioni esterne, l’intero sistema di monitoraggio dei contenuti online rischia di vacillare.

Parallelamente, in tanti hanno sollevato forti preoccupazioni sui piani di riforma del Digital Omnibus della Commissione Europea. Il timore principale è che la semplificazione normativa possa tradursi in un indebolimento del GDPR. Restringere il diritto di accesso ai dati o ridefinire cosa sia un “dato personale” potrebbe minare la privacy dei cittadini e ostacolare la ricerca scientifica. Anche l’Intelligenza Artificiale è sotto la lente: il rischio di allentare i requisiti di etichettatura per i deepfake e ridurre la sorveglianza sui sistemi ad alto rischio rappresenta una minaccia diretta alla trasparenza dell’ecosistema informativo. Oggi il problema non è scrivere le regole, ma difenderle dalle interferenze geopolitiche e garantire che la loro applicazione pratica sia accessibile, sicura e trasparente per tutti gli attori coinvolti.