Kecerdasan buatan ada dimana-mana saat ini.
Dan di Perselisihan? Hal ini membuat sekitar delapan ribu orang tidak bisa mengakses aplikasi. Tidak ada alasan bagus juga. Hanya kebisingan.
Perusahaan mengkonfirmasi kekacauan ini di thread X. Tampaknya sistem moderasi AI melihat gambar tidak berbahaya dan panik.
Kita berbicara tentang tekstur video game.
Seperti pola kotak-kotak. Hal yang sama sekali tidak berbahaya. AI menandai semuanya sebagai “bahan berbahaya”. Discord mengatakan petugas dari Trust and Safety selalu meninjau konten yang ditandai terlebih dahulu. Tentu. Namun jaring pengaman itu gagal di sini. Ribuan orang kehilangan akses ke akun mereka pada bulan Mei.
Itu sedang terjadi.
Namun, mereka sedang memperbaikinya.
“Anggota tim Kepercayaan & Keamanan kami meninjau konten yang ditandai”
Secara teknis benar. Praktis tidak ada gunanya jika Anda diblokir saat Anda menunggu seseorang melihatnya. Discord sekarang sedang dalam proses memulihkan akun tersebut.
Lihatlah seperti ini. TechCrunch menunjukkan sesuatu yang masuk akal dalam logika algoritmik yang memutarbalikkan. Pola kotak-kotak menyerupai teknik yang digunakan untuk menyembunyikan konten buruk. Materi eksploitasi secara khusus.
Jadi bot itu berhasil melakukan tugasnya? Ia melihat polanya, memicu alarm, dan menutup pintu.
Mudah dirasionalisasikan.
Lebih sulit untuk hidup jika Anda adalah salah satu dari delapan ribu pengguna tersebut. Ini adalah bukti nyata mengapa kita tidak bisa menyerahkan kunci begitu saja kepada mesin. Mata manusia langsung melihat perbedaannya. Konteks penting.
AI tidak mengetahui konteks. Ia melihat bentuk dan tebakan.
Namun inilah kenyataan yang sedang kita jalani. AI menjadi bagian yang lebih besar dari segalanya. Itu ada di ponsel kita, mobil kita, kotak masuk kita. Harapkan ini terus terjadi.
Apakah ini masa depan keamanan online? Atau hanya awal dari sakit kepala yang berkepanjangan?
Tidak ada busur yang rapi untuk yang satu ini.
