Laut einer neuen Studie haben mehr als die Hälfte der Teenager in den Vereinigten Staaten sexuell eindeutige Bilder erstellt oder erhalten, die durch künstliche Intelligenz (KI) erzeugt wurden. Die Ergebnisse zeigen, wie schnell KI-Tools für das eingesetzt werden, was Forscher als „Nacktdarstellung“ bezeichnen – die Erstellung realistischer Nacktbilder von Personen, oft ohne deren Zustimmung. Dieser Trend stellt komplexe rechtliche und ethische Herausforderungen dar, da die Bilder selbst illegal sein können, auch wenn sie keine echten Menschen darstellen.
Probleme bei der KI-nativen Generierung und Einwilligung
Forscher der George Mason University befragten 557 US-amerikanische Teenager (im Alter von 13–17 Jahren) zu ihren Erfahrungen mit KI-generierten sexuellen Inhalten. Die Studie ergab, dass 55,3 % KI-Tools verwendet hatten, um solche Bilder von sich selbst oder anderen zu erstellen, während 54,4 % angaben, solche Bilder erhalten zu haben. Erschreckenderweise gaben 36,3 % an, dass jemand ein nicht einvernehmliches Nacktbild von ihnen erstellt habe, und 33,2 % gaben an, dass solche Bilder ohne ihre Erlaubnis verbreitet worden seien.
„Jugendliche sind nicht mehr nur Digital Natives, sondern AI-Natives“, sagt Chad Steel, der Hauptautor der Studie. „‚Nudification‘ und GenAI-Apps sind ihr neues ‚Sexting‘, nur mit schwierigeren Fragen rund um die Einwilligung.“
Geschlechterunterschiede und Auswirkungen auf die Opfer
Die Studie ergab, dass männliche Teilnehmer unabhängig von ihrer Einwilligung eher explizite Bilder erstellten. Opfer von KI-gestützter sexueller Ausbeutung berichteten von ähnlichen Traumata wie diejenigen, die andere Formen des sexuellen Missbrauchs von Kindern erlebten, darunter Angst, Hypervigilanz, Vermeidung sozialer Medien und ein Gefühl der Machtlosigkeit. Die dauerhaften psychischen Auswirkungen können ihr Leben dauerhaft beeinträchtigen.
Implikationen und nächste Schritte
Die Verbreitung von KI-generierten sexuellen Bildern unter Teenagern unterstreicht die Notwendigkeit dringender Maßnahmen. Die Leichtigkeit, mit der diese Instrumente zur Ausbeutung von Einzelpersonen eingesetzt werden können, gepaart mit der Schwierigkeit, in diesem Zusammenhang die Einwilligung durchzusetzen, wirft erhebliche rechtliche und ethische Bedenken auf. Politische Entscheidungsträger, Technologieunternehmen und Pädagogen müssen zusammenarbeiten, um dieser neuen Bedrohung zu begegnen, gefährdete Jugendliche zu schützen und sicherzustellen, dass die KI-Entwicklung mit einer verantwortungsvollen Nutzung im Einklang steht.
Die Studie zeigt, wie schnell die generative KI schädliche Verhaltensweisen bei jungen Menschen normalisiert hat und zeigt, dass das Missbrauchspotenzial der Technologie ihre Regulierung übersteigt.
