Indonesia e Malesia sono diventati i primi paesi a vietare ufficialmente il chatbot Grok AI di Elon Musk, citando un uso improprio dilagante per la creazione di deepfake non consensuali e sessualmente espliciti. Questa mossa riflette la crescente preoccupazione globale che gli strumenti di intelligenza artificiale generativa stiano superando le garanzie esistenti, consentendo la produzione e la diffusione di contenuti realistici ma inventati.
Il problema principale: generazione di deepfake non controllata
Grok, accessibile tramite la piattaforma di social media X di Musk, è stato pesantemente criticato per la sua capacità di generare immagini manipolate, comprese raffigurazioni di donne in pose sessualmente allusive e persino immagini che coinvolgono minori. Le autorità di regolamentazione di entrambe le nazioni del sud-est asiatico hanno stabilito che gli attuali controlli erano insufficienti per prevenire la creazione e la distribuzione di materiale pornografico falso.
“I deepfake sessuali non consensuali rappresentano una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”, ha affermato il ministro indonesiano delle comunicazioni e degli affari digitali, Meutya Hafid.
Preoccupazioni specifiche sollevate dalle autorità
I funzionari indonesiani hanno scoperto che Grok non disponeva di garanzie efficaci per impedire agli utenti di creare contenuti pornografici basati su immagini reali di residenti indonesiani. Ciò rappresenta un rischio significativo per la privacy e i diritti d’immagine, con potenziali gravi danni psicologici, sociali e reputazionali quando le foto vengono manipolate senza consenso.
Allo stesso modo, la Commissione per le Comunicazioni e i Multimedia della Malesia ha citato il “ripetuto uso improprio” dello strumento per generare contenuti osceni e non consensuali. Nonostante gli avvertimenti rivolti a X Corp. e xAI che richiedevano garanzie più forti, la risposta si è basata in gran parte sui meccanismi di segnalazione degli utenti, che si sono rivelati inadeguati.
Accesso limitato e contraccolpi normativi
Entrambi i paesi hanno imposto restrizioni temporanee a Grok fino all’implementazione di misure di salvaguardia efficaci. L’Indonesia ha bloccato l’accesso sabato, mentre la Malesia ha fatto lo stesso domenica. Questa azione segue una reazione globale contro le capacità di generazione di immagini di Grok, in particolare dopo l’introduzione di una “modalità piccante” che consente la creazione di contenuti espliciti.
Sebbene Grok la scorsa settimana abbia limitato la generazione e la modifica delle immagini agli utenti paganti, i critici sostengono che questa misura non risolve completamente il problema. L’esame più ampio si estende ad altre regioni, tra cui Unione Europea, Gran Bretagna, India e Francia, dove i regolatori sono sempre più preoccupati per il potenziale di abuso.
Implicazioni per la regolamentazione dell’IA
I divieti in Indonesia e Malesia evidenziano l’urgente necessità di normative sull’IA più rigorose. L’attuale affidamento all’autoregolamentazione e alla segnalazione degli utenti è chiaramente insufficiente per prevenire l’uso dannoso degli strumenti di intelligenza artificiale generativa. L’incidente solleva questioni fondamentali sulla responsabilità, sul consenso e sui confini etici dei contenuti generati dall’intelligenza artificiale.
Le restrizioni inviano un messaggio chiaro: le piattaforme che consentono la creazione e la diffusione di deepfake non consensuali devono affrontare una crescente pressione legale e normativa. Senza tutele più forti, il futuro degli strumenti di intelligenza artificiale come Grok rimane incerto in molte parti del mondo.
