Indonesia dan Malaysia menjadi negara pertama yang secara resmi melarang chatbot Grok AI milik Elon Musk, dengan alasan maraknya penyalahgunaan untuk membuat deepfake yang bersifat seksual dan non-konsensual. Langkah ini mencerminkan meningkatnya kekhawatiran global bahwa alat AI generatif melampaui upaya perlindungan yang ada, sehingga memungkinkan produksi dan penyebaran konten yang realistis namun dibuat-buat.
Masalah Inti: Generasi Deepfake yang Tidak Dicentang
Grok, yang dapat diakses melalui platform media sosial Musk X, telah banyak dikritik karena kemampuannya menghasilkan gambar yang dimanipulasi, termasuk penggambaran perempuan dalam pose yang menjurus ke arah seksual dan bahkan gambar yang melibatkan anak di bawah umur. Regulator di kedua negara Asia Tenggara tersebut menetapkan bahwa pengendalian yang ada saat ini tidak cukup untuk mencegah pembuatan dan distribusi materi pornografi palsu.
“Pemalsuan seksual tanpa persetujuan adalah pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga negara di ruang digital,” kata Menteri Komunikasi dan Digital Indonesia Meutya Hafid.
Kekhawatiran Khusus yang Disampaikan oleh Pihak Berwenang
Pejabat Indonesia menemukan bahwa Grok tidak memiliki perlindungan yang efektif untuk mencegah pengguna membuat konten pornografi berdasarkan gambar asli penduduk Indonesia. Hal ini menimbulkan risiko besar terhadap privasi dan hak gambar, dengan potensi kerugian psikologis, sosial, dan reputasi yang parah jika foto dimanipulasi tanpa persetujuan.
Komisi Komunikasi dan Multimedia Malaysia juga menyebutkan adanya “penyalahgunaan berulang” terhadap alat tersebut untuk menghasilkan konten cabul dan non-konsensual. Meskipun ada peringatan yang dikeluarkan kepada X Corp. dan xAI yang menuntut perlindungan yang lebih kuat, respons yang diberikan sangat bergantung pada mekanisme pelaporan pengguna, dan hal ini terbukti tidak memadai.
Akses Terbatas dan Reaksi Peraturan
Kedua negara telah memberlakukan pembatasan sementara terhadap Grok sampai tindakan pengamanan yang efektif diterapkan. Indonesia memblokir akses pada hari Sabtu, sementara Malaysia mengikutinya pada hari Minggu. Tindakan ini menyusul reaksi global terhadap kemampuan pembuatan gambar Grok, terutama setelah diperkenalkannya “mode pedas” yang memungkinkan pembuatan konten eksplisit.
Meskipun Grok minggu lalu membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar, para kritikus berpendapat bahwa tindakan ini tidak sepenuhnya menyelesaikan masalah. Pengawasan yang lebih luas meluas ke kawasan lain, termasuk Uni Eropa, Inggris, India, dan Perancis, di mana para regulator semakin khawatir akan potensi penyalahgunaan.
Implikasi terhadap Regulasi AI
Larangan di Indonesia dan Malaysia menyoroti kebutuhan mendesak akan peraturan AI yang lebih ketat. Ketergantungan pada regulasi mandiri dan pelaporan pengguna saat ini jelas tidak cukup untuk mencegah penggunaan alat AI generatif yang berbahaya. Insiden ini menimbulkan pertanyaan mendasar tentang akuntabilitas, persetujuan, dan batasan etika konten yang dihasilkan AI.
Pembatasan ini memberikan pesan yang jelas: platform yang memungkinkan pembuatan dan penyebaran deepfake non-konsensual menghadapi tekanan hukum dan peraturan yang semakin meningkat. Tanpa perlindungan yang lebih kuat, masa depan alat AI seperti Grok masih belum pasti di banyak belahan dunia.
