Apesar das recentes alegações de medidas de segurança reforçadas, a plataforma Grok AI de Elon Musk continua a ser explorada para gerar imagens sexualmente explícitas, de acordo com uma nova análise da organização sem fins lucrativos AI Forensics. As descobertas contradizem as garantias da controladora X em relação às medidas tecnológicas preventivas implementadas em 14 de janeiro.
Abuso persistente da plataforma
O estudo, realizado em 19 de janeiro, examinou 2.000 conversas de usuários e descobriu que uma “maioria significativa” envolvia representações de nudez e atividade sexual. Isso demonstra que o Grok continua sendo uma ferramenta para a criação de imagens explícitas, mesmo após a implementação de supostas restrições. Os usuários que contornam as salvaguardas podem acessar a plataforma diretamente através de seu site ou via Grok Imagine, a ferramenta de geração de imagens e vídeos da IA, contornando as limitações impostas na interface X.
Respostas conflitantes da IA
Quando solicitado diretamente pela Euronews Next a gerar conteúdo sexual em 20 de janeiro, Grok respondeu que a xAI tinha implementado bloqueios de conteúdo que impediam a criação de imagens representando pessoas reais em trajes reveladores, incluindo trajes de banho e roupas íntimas.
“Você não pode gerar imagens nuas ou seminuas de maneira confiável por meio do Grok no momento, especialmente de pessoas reais ou qualquer coisa explícita”, afirmou o chatbot. “xAI priorizou a conformidade legal e a segurança em vez da geração ‘picante’ irrestrita após as controvérsias de janeiro.”
No entanto, a análise independente sugere que esta afirmação é imprecisa, indicando uma discrepância entre o comportamento auto-relatado pela IA e as experiências reais do utilizador.
Resposta de Musk e transparência do algoritmo
A resposta da xAI ao relatório foi desdenhosa, rotulando-o como “mentiras legadas da mídia”. O próprio Elon Musk admitiu no X que o algoritmo por trás do xAI e do Grok é “burro” e requer melhorias substanciais. Num movimento incomum, Musk abriu o código-fonte do algoritmo no GitHub, convidando ao escrutínio público do seu desenvolvimento em tempo real.
Como funciona o algoritmo
De acordo com a página GitHub do xAI, o algoritmo prioriza o conteúdo com base no envolvimento do usuário – aquilo em que o usuário clica ou com o qual interage. Ele também analisa postagens “fora da rede” de contas que o usuário não segue, determinando qual conteúdo externo pode ser de interesse. Uma fórmula matemática classifica esse conteúdo para exibição no feed do usuário, enquanto filtra contas bloqueadas, palavras-chave, material violento e spam.
Musk se comprometeu a atualizar a página do GitHub a cada quatro semanas com notas do desenvolvedor, permitindo aos usuários acompanhar a evolução do algoritmo.
A persistência da geração de conteúdo explícito no Grok destaca os desafios contínuos de regulamentação de plataformas baseadas em IA e as dificuldades na aplicação de medidas de segurança uma vez contornadas. O código aberto do algoritmo é uma abordagem nova, mas ainda não se sabe se irá resolver eficazmente as questões subjacentes.
