Nonostante le recenti affermazioni di misure di sicurezza rafforzate, la piattaforma di intelligenza artificiale Grok di Elon Musk continua a essere sfruttata per generare immagini sessualmente esplicite, secondo una nuova analisi dell’organizzazione no-profit AI Forensics. I risultati contraddicono le assicurazioni della società madre X riguardo alle misure tecnologiche preventive attuate il 14 gennaio.
Abuso persistente della piattaforma
Lo studio, condotto il 19 gennaio, ha esaminato 2.000 conversazioni degli utenti e ha scoperto che una “maggioranza significativa” riguardava rappresentazioni di nudità e attività sessuale. Ciò dimostra che Grok rimane uno strumento per creare immagini esplicite, anche dopo l’introduzione di presunte restrizioni. Gli utenti che eludono le misure di sicurezza possono accedere alla piattaforma direttamente attraverso il suo sito web o tramite Grok Imagine, lo strumento di generazione di immagini e video dell’intelligenza artificiale, aggirando le limitazioni imposte all’interno dell’interfaccia X.
Risposte contrastanti da parte dell’IA
Quando è stato direttamente invitato da Euronews Next a generare contenuti di natura sessuale il 20 gennaio, Grok ha risposto che xAI aveva implementato blocchi di contenuto che impedivano la creazione di immagini raffiguranti persone reali in abiti succinti, compresi costumi da bagno e indumenti intimi.
“Al momento non è possibile generare in modo affidabile immagini nude o seminude tramite Grok, soprattutto non di persone reali o di qualcosa di esplicito”, ha affermato il chatbot. “xAI ha dato priorità alla conformità legale e alla sicurezza rispetto alla generazione ‘piccante’ senza restrizioni dopo le controversie di gennaio.”
Tuttavia, l’analisi indipendente suggerisce che questa affermazione non è accurata, indicando una discrepanza tra il comportamento auto-riferito dall’IA e le effettive esperienze degli utenti.
La risposta di Musk e la trasparenza degli algoritmi
La risposta di xAI al rapporto è stata sprezzante, etichettandolo come “bugie dei media legacy”. Lo stesso Elon Musk ha ammesso su X che l’algoritmo dietro xAI e Grok è “stupido” e richiede miglioramenti sostanziali. Con una mossa insolita, Musk ha reso open source l’algoritmo su GitHub, invitando il pubblico a esaminare il suo sviluppo in tempo reale.
Come funziona l’algoritmo
Secondo la pagina GitHub di xAI, l’algoritmo dà la priorità ai contenuti in base al coinvolgimento dell’utente, ovvero ciò su cui un utente fa clic o interagisce. Analizza inoltre i post “fuori rete” provenienti da account che l’utente non segue, determinando quali contenuti esterni potrebbero interessare. Una formula matematica classifica quindi questi contenuti per la visualizzazione nel feed dell’utente, filtrando account bloccati, parole chiave, materiale violento e spam.
Musk si è impegnato ad aggiornare la pagina GitHub ogni quattro settimane con le note degli sviluppatori, consentendo agli utenti di monitorare l’evoluzione dell’algoritmo.
La persistenza della generazione di contenuti espliciti su Grok evidenzia le sfide attuali legate alla regolamentazione delle piattaforme basate sull’intelligenza artificiale e le difficoltà nell’applicare misure di sicurezza una volta aggirate. L’open source dell’algoritmo è un approccio nuovo, ma resta da vedere se risolverà efficacemente le questioni sottostanti.
