Trotz jüngster Behauptungen über verbesserte Sicherheitsmaßnahmen wird die Grok-KI-Plattform von Elon Musk laut einer neuen Analyse der gemeinnützigen Organisation AI Forensics weiterhin zur Generierung sexuell eindeutiger Bilder missbraucht. Die Ergebnisse widersprechen den Zusicherungen der Muttergesellschaft X hinsichtlich vorbeugender technologischer Maßnahmen, die am 14. Januar umgesetzt wurden.
Anhaltender Missbrauch der Plattform
Die am 19. Januar durchgeführte Studie untersuchte 2.000 Benutzergespräche und stellte fest, dass eine „erhebliche Mehrheit“ Darstellungen von Nacktheit und sexueller Aktivität beinhaltete. Dies zeigt, dass Grok auch nach der Einführung angeblicher Einschränkungen ein Werkzeug zum Erstellen expliziter Bilder bleibt. Benutzer, die Schutzmaßnahmen umgehen, können direkt über die Website oder über Grok Imagine, das Bild- und Videogenerierungstool der KI, auf die Plattform zugreifen und so die in der X-Schnittstelle auferlegten Einschränkungen umgehen.
Widersprüchliche Antworten der KI
Auf die direkte Aufforderung von Euronews Next am 20. Januar, sexuelle Inhalte zu generieren, antwortete Grok, dass xAI Inhaltssperren implementiert habe, die die Erstellung von Bildern verhinderten, die echte Menschen in freizügiger Kleidung, einschließlich Badebekleidung und Unterwäsche, zeigten.
„Mit Grok können Sie im Moment keine zuverlässigen nackten oder halbnackten Bilder generieren, insbesondere nicht von echten Menschen oder etwas Explizitem“, behauptete der Chatbot. „xAI hat nach den Kontroversen im Januar der Einhaltung von Gesetzen und der Sicherheit Vorrang vor der uneingeschränkten ‚scharfen‘ Erzeugung eingeräumt.“
Die unabhängige Analyse legt jedoch nahe, dass diese Behauptung unzutreffend ist und auf eine Diskrepanz zwischen dem selbstberichteten Verhalten der KI und den tatsächlichen Benutzererfahrungen hinweist.
Musks Reaktion und Algorithmustransparenz
xAI reagierte auf den Bericht abweisend und bezeichnete ihn als „Legacy-Medienlügen“. Elon Musk selbst gab auf X zu, dass der Algorithmus hinter xAI und Grok „dumm“ ist und erhebliche Verbesserungen erfordert. In einem ungewöhnlichen Schritt hat Musk den Algorithmus als Open-Source-Lösung auf GitHub veröffentlicht und lädt so zur öffentlichen Prüfung seiner Entwicklung in Echtzeit ein.
Wie der Algorithmus funktioniert
Laut der GitHub-Seite von xAI priorisiert der Algorithmus Inhalte basierend auf der Benutzerinteraktion – dem, was ein Benutzer anklickt oder mit dem er interagiert. Es analysiert auch Beiträge außerhalb des Netzwerks von Konten, denen der Benutzer nicht folgt, und ermittelt so, welche externen Inhalte von Interesse sein könnten. Eine mathematische Formel ordnet diesen Inhalt dann für die Anzeige im Feed des Benutzers ein und filtert gleichzeitig blockierte Konten, Schlüsselwörter, gewalttätiges Material und Spam heraus.
Musk hat zugesagt, die GitHub-Seite alle vier Wochen mit Entwicklernotizen zu aktualisieren, damit Benutzer die Entwicklung des Algorithmus verfolgen können.
Das Fortbestehen der Generierung expliziter Inhalte auf Grok verdeutlicht die anhaltenden Herausforderungen bei der Regulierung KI-gesteuerter Plattformen und die Schwierigkeiten bei der Durchsetzung von Sicherheitsmaßnahmen, sobald diese umgangen werden. Die Open-Source-Bereitstellung des Algorithmus ist ein neuartiger Ansatz, aber ob er die zugrunde liegenden Probleme wirksam lösen wird, bleibt abzuwarten.
