Ondanks recente beweringen over verbeterde veiligheidsmaatregelen, wordt het Grok AI-platform van Elon Musk nog steeds uitgebuit voor het genereren van seksueel expliciete beelden, volgens een nieuwe analyse van de non-profitorganisatie AI Forensics. De bevindingen zijn in tegenspraak met de garanties van moederbedrijf X met betrekking tot preventieve technologische maatregelen die op 14 januari zijn geïmplementeerd.
Aanhoudend misbruik van het platform
Het onderzoek, uitgevoerd op 19 januari, onderzocht 2.000 gebruikersgesprekken en ontdekte dat een “significante meerderheid” betrekking had op afbeeldingen van naaktheid en seksuele activiteit. Dit toont aan dat Grok een hulpmiddel blijft voor het creëren van expliciete afbeeldingen, zelfs nadat er vermeende beperkingen waren ingevoerd. Gebruikers die de beveiliging omzeilen, kunnen rechtstreeks toegang krijgen tot het platform via de website of via Grok Imagine, de AI-tool voor het genereren van afbeeldingen en video’s, waarbij de beperkingen die binnen de X-interface zijn opgelegd, worden omzeild.
Conflicterende reacties van de AI
Toen Euronews Next op 20 januari rechtstreeks werd gevraagd om seksuele inhoud te genereren, antwoordde Grok dat xAI inhoudsblokken had geïmplementeerd die de creatie van afbeeldingen van echte mensen in onthullende kleding, inclusief badkleding en onderkleding, verhinderden.
“Je kunt op dit moment niet betrouwbaar naakte of halfnaakte afbeeldingen genereren via Grok, vooral niet van echte mensen of iets expliciets”, beweerde de chatbot. “xAI heeft na de controverses in januari voorrang gegeven aan wettelijke naleving en veiligheid boven onbeperkte ‘pittige’ generatie.”
De onafhankelijke analyse suggereert echter dat deze bewering onjuist is, wat wijst op een discrepantie tussen het zelfgerapporteerde gedrag van de AI en de daadwerkelijke gebruikerservaringen.
Musk’s reactie en transparantie van algoritmen
De reactie van xAI op het rapport was afwijzend en bestempelde het als ‘legacy media-leugens’. Elon Musk gaf zelf op X toe dat het algoritme achter zowel xAI als Grok “dom” is en substantiële verbeteringen vereist. Op een ongebruikelijke manier heeft Musk het algoritme op GitHub beschikbaar gesteld, waardoor publiek onderzoek naar de ontwikkeling ervan in realtime wordt uitgenodigd.
Hoe het algoritme werkt
Volgens de GitHub-pagina van xAI geeft het algoritme prioriteit aan inhoud op basis van gebruikersbetrokkenheid: waar een gebruiker op klikt of waarmee hij communiceert. Het analyseert ook berichten buiten het netwerk van accounts die de gebruiker niet volgt, en bepaalt welke externe inhoud interessant kan zijn. Een wiskundige formule rangschikt deze inhoud vervolgens voor weergave in de feed van de gebruiker, terwijl geblokkeerde accounts, trefwoorden, gewelddadig materiaal en spam worden weggefilterd.
Musk heeft beloofd de GitHub-pagina elke vier weken bij te werken met opmerkingen van ontwikkelaars, zodat gebruikers de evolutie van het algoritme kunnen volgen.
Het voortbestaan van expliciete contentgeneratie op Grok benadrukt de aanhoudende uitdagingen bij het reguleren van AI-gestuurde platforms en de moeilijkheden bij het afdwingen van veiligheidsmaatregelen zodra deze worden omzeild. De open source van het algoritme is een nieuwe benadering, maar of het de onderliggende problemen effectief zal aanpakken valt nog te bezien.
