Meskipun ada klaim baru-baru ini tentang peningkatan langkah-langkah keamanan, platform Grok AI milik Elon Musk terus dieksploitasi untuk menghasilkan gambar seksual eksplisit, menurut analisis baru oleh AI Forensics nirlaba. Temuan ini bertentangan dengan jaminan dari perusahaan induk X mengenai langkah-langkah teknologi pencegahan yang diterapkan pada 14 Januari.
Penyalahgunaan Platform yang Terus Menerus
Penelitian yang dilakukan pada tanggal 19 Januari ini meneliti 2.000 percakapan pengguna dan menemukan bahwa “mayoritas signifikan” melibatkan penggambaran ketelanjangan dan aktivitas seksual. Hal ini menunjukkan bahwa Grok tetap menjadi alat untuk membuat gambar eksplisit, bahkan setelah pembatasan diberlakukan. Pengguna yang menghindari perlindungan dapat mengakses platform secara langsung melalui situs webnya atau melalui Grok Imagine, alat pembuat gambar dan video AI, melewati batasan yang diberlakukan dalam antarmuka X.
Respons yang Bertentangan dari AI
Ketika diminta langsung oleh Euronews Next untuk membuat konten seksual pada tanggal 20 Januari, Grok menjawab bahwa xAI telah menerapkan blok konten yang mencegah pembuatan gambar yang menggambarkan orang sungguhan dalam pakaian terbuka, termasuk pakaian renang dan pakaian dalam.
“Saat ini Anda tidak dapat menghasilkan gambar telanjang atau setengah telanjang melalui Grok, terutama gambar orang sungguhan atau sesuatu yang eksplisit,” tegas chatbot tersebut. “xAI memprioritaskan kepatuhan hukum dan keamanan dibandingkan generasi ‘pedas’ yang tidak dibatasi setelah kontroversi bulan Januari.”
Namun, analisis independen menunjukkan bahwa klaim ini tidak akurat, yang menunjukkan adanya perbedaan antara perilaku AI yang dilaporkan sendiri dan pengalaman pengguna sebenarnya.
Respons Musk dan Transparansi Algoritma
Tanggapan xAI terhadap laporan tersebut meremehkan dan menyebutnya sebagai “kebohongan yang sudah ada di media”. Elon Musk sendiri mengakui di X bahwa algoritme di balik xAI dan Grok “bodoh” dan memerlukan perbaikan besar. Dalam sebuah langkah yang tidak biasa, Musk telah menjadikan algoritma ini sebagai sumber terbuka (open-source) di GitHub, sehingga mengundang perhatian publik terhadap perkembangannya secara real-time.
Cara Kerja Algoritma
Menurut halaman GitHub xAI, algoritme ini memprioritaskan konten berdasarkan keterlibatan pengguna—apa yang diklik atau berinteraksi dengan pengguna. Ini juga menganalisis postingan “di luar jaringan” dari akun yang tidak diikuti pengguna, menentukan konten eksternal mana yang mungkin menarik. Rumus matematika kemudian memberi peringkat pada konten ini untuk ditampilkan di feed pengguna, sekaligus menyaring akun yang diblokir, kata kunci, materi kekerasan, dan spam.
Musk telah berjanji untuk memperbarui halaman GitHub setiap empat minggu dengan catatan pengembang, memungkinkan pengguna melacak evolusi algoritme.
Masih adanya pembuatan konten eksplisit di Grok menyoroti tantangan yang sedang berlangsung dalam mengatur platform berbasis AI dan kesulitan dalam menerapkan langkah-langkah keamanan setelah hal tersebut dielakkan. Sumber daya terbuka (open-sourcing) dari algoritma ini adalah sebuah pendekatan baru, namun apakah pendekatan ini akan secara efektif mengatasi masalah-masalah mendasar masih harus dilihat.
