Indonezja i Malezja jako pierwsze kraje oficjalnie zakazały chatbota AI Elona Muska Grok, powołując się na powszechne wykorzystywanie go do tworzenia deepfake’ów o charakterze bezsensownym i o charakterze jednoznacznie seksualnym. Posunięcie to odzwierciedla rosnące obawy na całym świecie, że narzędzia generatywnej sztucznej inteligencji wyprzedzają istniejące mechanizmy obronne, umożliwiając tworzenie i dystrybucję realistycznych, ale sfabrykowanych treści.
Główny problem: niekontrolowane tworzenie Deepfakes
Grok, dostępny za pośrednictwem platformy mediów społecznościowych X Elona Muska, znalazł się pod ostrzałem ze względu na jego zdolność do generowania zmanipulowanych obrazów, w tym zdjęć kobiet w seksualnie prowokacyjnych pozach, a nawet zdjęć z udziałem nieletnich. Organy regulacyjne w obu krajach Azji Południowo-Wschodniej doszły do wniosku, że obecne kontrole są niewystarczające, aby zapobiec tworzeniu i rozpowszechnianiu fałszywej pornografii.
„Deepfakes o charakterze seksualnym bez zgody stanowią poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej” – stwierdziła indonezyjska Minister Komunikacji i Spraw Cyfrowych Meitya Hafid.
Konkretne kwestie poruszone przez władze
Indonezyjscy urzędnicy ustalili, że Grok nie posiadał skutecznych mechanizmów ochrony przed tworzeniem treści pornograficznych opartych na prawdziwych wizerunkach Indonezyjczyków. Stanowi to poważne ryzyko dla prywatności i praw do wizerunku, a w przypadku manipulowania zdjęciami bez zgody może spowodować poważne szkody psychologiczne, społeczne i reputacyjne.
Podobnie Malezyjska Komisja ds. Komunikacji i Multimediów powołała się na „wielokrotne niewłaściwe użycie” tego narzędzia do tworzenia nieprzyzwoitych treści bez zgody. Pomimo ostrzeżeń wysłanych do X Corp. i xAI w celu wzmocnienia mechanizmów bezpieczeństwa, reakcja w dużym stopniu opierała się na mechanizmach zgłaszania użytkowników, które uznano za nieodpowiednie.
Ograniczony dostęp i wycofywanie przepisów
Obydwa kraje nałożyły tymczasowe ograniczenia na Grok do czasu wprowadzenia skutecznych mechanizmów ochronnych. Indonezja zablokowała dostęp w sobotę, a następnie Malezja w niedzielę. Posunięcie to jest następstwem globalnego potępienia zdolności Groka do generowania obrazu, szczególnie po wprowadzeniu „trybu ostrego”, który umożliwia tworzenie treści dla dorosłych.
Choć w zeszłym tygodniu Grok ograniczył generowanie i edycję obrazów dla płatnych użytkowników, krytycy twierdzą, że to posunięcie nie rozwiązuje w pełni problemu. Szersza kontrola obejmuje inne regiony, w tym Unię Europejską, Wielką Brytanię, Indie i Francję, gdzie organy regulacyjne są coraz bardziej zaniepokojone możliwością nadużyć.
Konsekwencje dla regulacji dotyczących sztucznej inteligencji
Zakazy w Indonezji i Malezji podkreślają pilną potrzebę wprowadzenia silniejszych regulacji dotyczących sztucznej inteligencji. Obecne poleganie na samoregulacji i odpowiedzialności użytkowników jest wyraźnie niewystarczające, aby zapobiec złośliwemu wykorzystaniu narzędzi generatywnej sztucznej inteligencji. Incydent rodzi fundamentalne pytania dotyczące odpowiedzialności, zgody i granic etycznych treści generowanych przez sztuczną inteligencję.
Ograniczenia dają jasny sygnał: platformy umożliwiające tworzenie i dystrybucję deepfake’ów bez konsensusu będą musiały stawić czoła rosnącej presji prawnej i regulacyjnej. Bez silniejszych mechanizmów ochronnych przyszłość narzędzi sztucznej inteligencji, takich jak Grok, w wielu częściach świata pozostaje niepewna.
