Více než polovina amerických náctiletých vytvořila nebo obdržela sexuálně explicitní obrázky generované umělou inteligencí (AI), podle nové studie. Výsledky ukazují, jak rychle jsou nástroje umělé inteligence přijímány pro to, co výzkumníci nazývají „nudification“ – vytváření realistických nahých obrázků lidí, často bez jejich souhlasu. Tento trend představuje složité právní a etické problémy, protože samotné obrázky mohou být nezákonné, i když nevyobrazují skutečné lidi.
Problémy s generováním a souhlasem na základě umělé inteligence
Výzkumníci z George Mason University zkoumali 557 amerických teenagerů (ve věku 13–17 let) ohledně jejich zkušeností se sexuálním obsahem generovaným umělou inteligencí. Studie zjistila, že 55,3 % použilo nástroje AI k vytvoření takových obrázků, ať už svých nebo jiných, a 54,4 % uvedlo, že je obdrželo. Alarmující je, že 36,3 % uvedlo, že někdo vytvořil jejich nahý obrázek bez jejich souhlasu, a 33,2 % uvedlo, že takové obrázky byly sdíleny bez jejich svolení.
„Dospívající už nejsou jen digitální domorodci, ale umělci,“ říká Chad Steele, hlavní autor studie. „Aplikace ‚Nahota‘ a GenAI se staly jejich novým ‚sextingem‘, jen se složitějšími problémy kolem souhlasu.“
Genderové rozdíly a důsledky pro oběti
Studie zjistila, že muži častěji vytvářeli explicitní obrázky, bez ohledu na souhlas. Oběti sexuálního vykořisťování AI uvedly trauma podobná těm, které zažívaly jiné formy sexuálního zneužívání dětí, včetně strachu, hypervigilance, vyhýbání se sociálním médiím a pocitů bezmoci. Dlouhodobý psychologický dopad může navždy narušit jejich životy.
Důsledky a další kroky
Převaha sexuálních obrázků generovaných umělou inteligencí mezi teenagery zdůrazňuje potřebu naléhavé akce. Snadnost, s jakou lze tyto nástroje použít k vykořisťování lidí, spolu s obtížemi se zajištěním souhlasu v této souvislosti vyvolává vážné právní a etické obavy. Tvůrci politik, technologické společnosti a pedagogové musí spolupracovat na řešení této vznikající hrozby, chránit zranitelnou mládež a zajistit, aby byl vývoj umělé inteligence v souladu s odpovědným používáním.
Studie zdůrazňuje, jak rychle generativní umělá inteligence normalizovala škodlivé chování mezi mladými lidmi, což dokazuje, že potenciál zneužívání této technologie předčí její regulaci.
