Scandalo X: L’UE indaga su Grok per immagini pedopornografiche

L’Unione Europea intensifica il controllo su X a causa di contenuti illeciti generati da Grok.

## L’UE Avvia un’Indagine Formale su X per la Diffusione di Contenuti Illeciti
La Commissione Europea ha annunciato l’apertura di un’indagine formale nei confronti di X, la piattaforma di Elon Musk, in relazione alla produzione e diffusione di immagini sessualmente esplicite e materiale pedopornografico potenzialmente generato dal suo chatbot AI, Grok. L’indagine, avviata lunedì 27 gennaio 2026, si estende anche ai sistemi di raccomandazione di X, algoritmi che aiutano gli utenti a scoprire nuovi contenuti.

Grok ha suscitato indignazione internazionale per aver permesso agli utenti di “spogliare” digitalmente donne e bambini e di porli in pose provocanti. Secondo i ricercatori del Center for Countering Digital Hate, Grok AI ha generato circa 3 milioni di immagini sessualizzate in meno di due settimane, di cui 23.000 sembravano raffigurare bambini.

La Commissione ha dichiarato che la sua indagine valuterà se X abbia adeguatamente valutato e mitigato i rischi derivanti dalle funzionalità di Grok nell’UE, compresi i rischi relativi alla condivisione di contenuti illegali come immagini manipolate sessualmente esplicite e contenuti che potrebbero costituire materiale pedopornografico.

L’indagine è stata avviata ai sensi del Digital Services Act (DSA) dell’UE, una legislazione relativamente nuova che mira a proteggere gli utenti di Internet da una vasta gamma di danni. Un funzionario ha dichiarato ai giornalisti che la Commissione non è stata convinta dalle misure di mitigazione messe in atto da X per risolvere il problema.

Dopo l’iniziale indignazione per le immagini manipolate, la società ha limitato l’accesso allo strumento agli abbonati a pagamento, ma ha cambiato rotta sotto la pressione dei regolatori europei. All’inizio di questo mese, ha annunciato di aver introdotto misure per impedire a Grok di consentire la modifica di immagini di persone reali in abiti succinti.

Un funzionario della Commissione ha affermato che le misure non hanno eliminato le preoccupazioni più ampie su Grok. L’indagine sta esaminando i rischi sistemici della generazione di contenuti illegali, compresi i contenuti che raffigurano violenza contro le donne e materiale pedopornografico. X non disponeva di “misure di mitigazione efficaci per ridurre il rischio sulla propria piattaforma”, hanno affermato.

## Estensione dell’Indagine ai Sistemi di Raccomandazione di X

Oltre all’indagine sulle immagini esplicite, la Commissione sta estendendo un’indagine avviata nel dicembre 2023 sui sistemi di raccomandazione di X, alla luce dell’annuncio della società di passare a un modello basato su Grok per filtrare le informazioni e i contenuti agli utenti.

La decisione arriva dopo che l’autorità di controllo dei media del Regno Unito, Ofcom, ha annunciato all’inizio di questo mese una propria indagine su contenuti “vigliacchi” e illegali su X.
La Commissione è stata ampiamente criticata per essere troppo lenta nell’applicazione del DSA, soprattutto in relazione a X. “L’indagine arriva troppo tardi, ma può ancora inviare un chiaro segnale che le piattaforme devono rispettare la legge europea”, ha affermato l’eurodeputata tedesca dei Verdi Alexandra Geese. “Questo caso è chiaro. Il danno a milioni di donne e molti bambini è irreparabile. Speriamo che la Commissione utilizzi questo apprendimento per agire più rapidamente in futuro”.

I funzionari dell’UE hanno respinto tali critiche, sottolineando le 15 indagini in corso ai sensi del DSA, che si applica alle società da febbraio 2024. Regina Doherty, vicepresidente irlandese di centro-destra del Parlamento europeo, ha affermato di accogliere con favore l’indagine formale. “Quando emergono segnalazioni credibili di sistemi di intelligenza artificiale utilizzati in modi che danneggiano donne e bambini, è essenziale che la legge dell’UE sia esaminata e applicata senza indugio”, ha affermato Doherty.
## La Risposta di X e le Precedenti Sanzioni

In risposta all’indagine, X ha fornito un collegamento a una dichiarazione pubblicata il 14 gennaio: “Rimaniamo impegnati a rendere X una piattaforma sicura per tutti e continuiamo ad avere tolleranza zero per qualsiasi forma di sfruttamento sessuale infantile, nudità non consensuale e contenuti sessuali indesiderati”.

La Commissione ha multato X per 120 milioni di euro il mese scorso per aver violato la legge dell’UE. La piattaforma aveva ingannato gli utenti, ostacolato i ricercatori indipendenti ed eluso la responsabilità”, ha affermato. Il regolatore dell’UE ha affermato che X ha fornito badge blu “ingannevoli” agli account senza verifica, esponendo potenzialmente gli utenti a truffe e inganni da parte di attori malintenzionati. X ha anche violato i requisiti legali dell’UE sulla trasparenza della pubblicità, impedendo ai ricercatori di indagare su annunci falsi e campagne di minacce ibride.

Musk ha risposto “stronzate” a un post della Commissione che annunciava la multa e in seguito ha chiesto l’abolizione dell’UE. Alla società sono stati concessi tre mesi per pagare la multa. Un funzionario dell’UE ha affermato di essere fiducioso che la sanzione sarebbe stata pagata.

## Riflessioni sulla Responsabilità e il Futuro della Moderazione dei Contenuti

L’indagine dell’UE su X e Grok solleva interrogativi cruciali sulla responsabilità delle piattaforme digitali nella moderazione dei contenuti generati dall’intelligenza artificiale. Mentre le aziende come OpenAI e Meta (Zuckerberg) sembrano concentrarsi su contenuti per un pubblico adulto, XAI si trova ad affrontare accuse di diffusione di materiale potenzialmente dannoso per i minori.

Questa situazione evidenzia la necessità di un approccio più rigoroso e proattivo da parte delle piattaforme per prevenire la diffusione di contenuti illegali e dannosi, soprattutto quando si tratta di tecnologie emergenti come l’intelligenza artificiale generativa. La capacità di Grok di creare immagini sessualmente esplicite in modo rapido ed efficiente rappresenta una sfida significativa per la moderazione dei contenuti, e richiede lo sviluppo di strumenti e strategie più sofisticate per identificare e rimuovere tali contenuti.

Inoltre, l’indagine dell’UE sottolinea l’importanza della cooperazione tra le autorità di regolamentazione e le piattaforme digitali per garantire il rispetto delle leggi e la protezione dei diritti dei cittadini europei. La decisione della Commissione di estendere l’indagine ai sistemi di raccomandazione di X dimostra una crescente consapevolezza del ruolo che gli algoritmi svolgono nella diffusione di contenuti online, e la necessità di garantire che tali algoritmi siano progettati e utilizzati in modo responsabile.

*L’evoluzione delle tecnologie di intelligenza artificiale generativa richiede un ripensamento delle strategie di moderazione dei contenuti e una maggiore attenzione alla responsabilità delle piattaforme digitali.*

Amici, parliamoci chiaro. L’automazione, in questo caso, si manifesta nella capacità di un’intelligenza artificiale come Grok di generare contenuti in modo autonomo. La scalabilità produttiva entra in gioco quando questa capacità viene sfruttata per produrre un volume elevatissimo di immagini in un breve lasso di tempo. La trasformazione digitale, infine, è il contesto più ampio in cui queste tecnologie emergono e ridefiniscono il modo in cui interagiamo con il mondo online.

Ma cosa succede quando questa automazione, questa scalabilità e questa trasformazione digitale vengono utilizzate per scopi illeciti? Ecco che entra in gioco la necessità di un’automazione più avanzata, di sistemi di intelligenza artificiale capaci di identificare e rimuovere automaticamente i contenuti dannosi. Un’automazione che non si limiti alla produzione, ma che si estenda alla protezione.

E qui sorge una domanda: siamo pronti ad affrontare le sfide etiche e legali che queste tecnologie ci pongono? Siamo pronti a garantire che l’automazione, la scalabilità e la trasformazione digitale siano al servizio del bene comune, e non strumenti di sfruttamento e abuso? La risposta a queste domande determinerà il futuro del nostro mondo digitale.