Jane Doe non si è presentata in tribunale con il suo nome. Come lei, migliaia di vittime di abusi sessuali infantili vivono con il fantasma delle proprie immagini che circolano online da decenni. La sua storia è agghiacciante: aveva l’età per andare alla scuola materna nei primi anni 2000 quando invece è stata abusata per creare materiale pedopornografico. Quelle foto sono finite nelle liste hash del National Center for Missing and Exploited Children (NCMEC) e del Canadian Centre for Child Protection (CCCP) – database che dovrebbero bloccarne la diffusione. Invece, la donna ha ricevuto una notifica che non si aspettava: il CCCP aveva identificato nuove immagini generate dall’intelligenza artificiale che la ritraevano, create con Grok, il chatbot di xAI.
La denuncia, depositata mercoledì in California, è la prima ad accusare esplicitamente xAI di aver addestrato Grok su materiale pedopornografico reale. Margaret E. Mabie e Sarah London, gli avvocati di Jane Doe, non usano mezzi termini: xAI avrebbe violato le leggi federali sulla pornografia minorile e la legge Masha, che dà alle vittime il diritto di fare causa per produzione, possesso e distribuzione di questo materiale. “xAI ha fatto tutte e tre queste cose”, ha dichiarato Mabie.
Grok e i numeri dell’orrore
Mentre la causa di Jane Doe si concentra sull’addestramento del modello, un’altra class action – firmata dagli studi Lieff Cabraser Heimann & Bernstein e Baehr-Jones Law a marzo 2026 – racconta cosa è successo dopo il lancio della funzione di generazione immagini. Tra il 29 dicembre 2025 e l’8 gennaio 2026, Grok ha prodotto circa 3 milioni di immagini sessualizzate, di cui 23.000 raffiguranti minori. Parliamo di una media di 190 immagini al minuto, o se preferite, una immagine pedopornografica ogni 41 secondi.
Il Center for Countering Digital Hate ha analizzato un campione di 20.000 immagini da un totale di 4,6 milioni: il 65% era sessualizzato in stile fotorealistico. Alcune delle vittime nella causa del marzo 2026 sono tre ragazze del Tennessee le cui foto scolastiche e di famiglia sono state trasformate in materiale pedopornografico da un fotografo dell’Arkansas, poi arrestato con oltre 200 capi d’accusa. Quel fotografo, Rusell Bloodworth, ha usato Grok tramite un’app sul telefono. Le immagini sono finite su Discord, Telegram e Mega, scambiate per altro materiale illegale.
La “Spicy Mode” e le controverse scelte di xAI
Qui la storia diventa interessante dal punto di vista tecnico. xAI non ha “subito” l’uso improprio di Grok: ha progettato il sistema per generare contenuti espliciti. La cosiddetta “Spicy Mode” non è un bug o una funzione nascosta, è un feature marketing. Elon Musk ha personalmente promosso su X la capacità di Grok di “spogliare” le persone, alimentando un trend virale in cui gli utenti caricavano foto di donne e bambine reali per generarne versioni nude o in pose sessuali.
Quando le critiche sono arrivate, la risposta di xAI è stata degna di nota: invece di disabilitare la funzione, l’hanno resa disponibile solo per gli abbonati paganti, trasformando la “Spicy Mode” in un benefit premium. Solo il 14 gennaio 2026, dopo settimane di scandalo, hanno aggiunto restrizioni tecniche per impedire di spogliare le immagini di persone reali.
Ma c’è un dettaglio tecnico ancora più inquietante, sollevato nella denuncia di Jane Doe: i termini di servizio di xAI prevedono che gli output di Grok possano essere riutilizzati come dati di addestramento. Questo significa che le immagini generate dall’IA, comprese quelle pedopornografiche, potrebbero essere state reintrodotte nel sistema per “migliorare” il modello. Rimuovere l’influenza di un dato da un modello già addestrato è tecnicamente quasi impossibile: anche se le immagini originali vengono cancellate, il loro “insegnamento” rimane nel sistema.
Il Procuratore Generale della California, Rob Bonta, ha quindi aperto un’indagine formale il 14 gennaio 2026. “La quantità di segnalazioni è scioccante”, ha dichiarato. “Abbiamo tolleranza zero per la creazione e diffusione di immagini intime non consensuali o di materiale pedopornografico tramite IA”. Già tra agosto e settembre 2025 Bonta aveva scritto a 12 aziende di intelligenza artificiale e incontrato OpenAI per esprimere preoccupazioni sulla relazione tra chatbot e i minori.
xAI, dal canto suo, ha scelto una strategia particolare: invece di rispondere alle accuse, ha fatto causa al fotografo Rusell Bloodworth, accusandolo di aver “abusato” del chatbot, come se il problema fosse l’utente e non lo strumento progettato apposta per fare quello che ha fatto.
Cosa chiedono le vittime di questo scandalo che ha coinvolto Grok?
Jane Doe non chiede solo un risarcimento: la richiesta principale è che xAI distrugga tutto il materiale pedopornografico generato da Grok conservato sui server e che blocchi permanentemente la capacità del sistema di generare questo tipo di contenuti. Questo, secondo la denuncia, richiederebbe di disabilitare qualsiasi output sessualizzato, comprese le immagini NCII (non-consensual intimate imagery) e persino le “foto in bikini” che Musk ha più volte promosso.
Sarah London, una delle avvocatesse di Jane Doe, ha spiegato: “Questa donna vive da quasi vent’anni sapendo che le immagini della cosa peggiore che le sia mai successa circolano tra i predatori online e possono riemergere in qualsiasi momento. xAI deve essere ritenuta responsabile per aver addestrato consapevolmente i suoi modelli sulle immagini dell’abuso orribile che ha subito”.
Mentre la causa cerca di ottenere lo status di class action per rappresentare tutte le vittime le cui immagini deli abusi sono state usate per generare materiale pedopornografico tramite Grok, resta il fatto che xAI è l’unica grande azienda di intelligenza artificiale ad aver scelto di costruire uno strumento capace di produrre materiale pedopornografico in massa – e poi di commercializzarlo come vantaggio competitivo. Una scelta che si commenta da sé.