Parlemen Eropa baru saja mengesahkan UU AI. Ini adalah undang-undang komprehensif pertama di dunia yang mengatur kecerdasan buatan. Negara-negara anggota sekarang memiliki waktu dua tahun untuk menerjemahkan aturan-aturan ini ke dalam hukum nasional. Tapi teksnya sendiri padat. Apa sebenarnya yang dicakupnya? Aplikasi mana yang dilarang? Dan mengapa perusahaan teknologi gelisah?
Kami berinteraksi dengan AI setiap hari. Ini menyaring spam. Itu menulis email. Ini menciptakan daftar putar yang benar-benar sesuai dengan suasana hati Anda. Alat generatif seperti ChatGPT, DALL-E, dan Stable Diffusion bukan lagi konsep futuristik. Mereka tertanam dalam kehidupan pribadi dan profesional.
Namun, AI masih menjadi kotak hitam. Pengembang seringkali tidak mengetahui secara pasti apa yang terjadi di dalam “otak digital” ciptaan mereka. Mengapa sistem berhalusinasi? Mengapa mereka melontarkan pernyataan diskriminatif? Jawabannya tidak lengkap. Meskipun penerapannya lebih luas, tidak ada kerangka hukum yang luas. Kesenjangan ini membuat sulit untuk mengekang penggunaan yang berbahaya. Deepfakes, bot palsu, dan pelanggaran privasi berkembang pesat di kekosongan tersebut.
Empat Kategori Risiko Menentukan Regulasi AI
UU AI memperbaikinya dengan mengkategorikan AI ke dalam empat tingkat risiko. Klasifikasi menentukan seberapa ketat peraturannya.
Aplikasi dengan risiko minimal atau tanpa risiko tidak menghadapi rintangan baru. Ini termasuk filter spam email atau video game yang menggunakan AI untuk dialog karakter. Anda dapat terus menggunakannya tanpa khawatir.
Risiko Terbatas Membutuhkan Transparansi
AI dengan risiko terbatas berinteraksi langsung dengan manusia. Bayangkan chatbot seperti ChatGPT. Undang-undang mengamanatkan bahwa sistem ini harus secara jelas mengungkapkan bahwa mereka bukan manusia. Pengguna tidak boleh disesatkan dengan berpikir bahwa mereka sedang berbicara dengan seseorang. Tujuannya sederhana: mencegah penipuan yang tidak disengaja.
AI berisiko tinggi menghadapi pengawasan yang jauh lebih ketat. Sistem ini berdampak pada infrastruktur penting, layanan kesehatan, atau sistem peradilan. Keputusan yang salah di sini dapat mengorbankan nyawa atau mata pencaharian.
UU AI menuntut pengawasan manusia untuk semua aplikasi berisiko tinggi. Manusia harus mengambil keputusan akhir. Sistem ini juga harus memenuhi standar transparansi dan keamanan yang tinggi. Kumpulan data dan log pengujian harus mematuhi persyaratan yang ketat. Sistem manajemen risiko internal adalah wajib. Komisi Eropa memperkirakan hanya 5 hingga 15 persen dari seluruh aplikasi AI yang termasuk dalam kategori ini.
Larangan terhadap AI yang Tidak Dapat Diterima
AI yang dianggap “tidak dapat diterima” merupakan ancaman terhadap hak-hak dasar. Aplikasi-aplikasi ini langsung dilarang. Undang-undang tersebut menargetkan teknologi yang bertentangan dengan nilai-nilai Eropa.
Penggunaan yang tidak dapat diterima meliputi:
– Identifikasi biometrik jarak jauh secara real-time di ruang yang dapat diakses publik, dengan sedikit pengecualian untuk penegakan hukum.
– Sistem yang mengevaluasi emosi di tempat kerja.
– Mekanisme penilaian sosial yang digunakan oleh pemerintah untuk menilai warga negara.
Tiongkok menerapkan penilaian sosial untuk memantau perilaku. Perilaku yang “benar” mungkin bisa menjamin tempat di universitas atau pinjaman. UE sepenuhnya menolak logika ini. Pengenalan wajah di ruang publik tetap diperbolehkan hanya untuk badan keamanan dalam kondisi tertentu dan dapat dibenarkan.
Ketidakpatuhan membawa hukuman berat. Perusahaan yang menggunakan teknologi terlarang akan dikenakan denda hingga 35 juta euro atau 7 persen dari omset tahunan global mereka. Pelanggaran lainnya bisa memicu denda sebesar 15 juta euro atau 3 persen dari pendapatan. Taruhannya tinggi.
Regulasi sebagai Strategi Kompetitif
Pakar digital terbagi. Beberapa orang memuji UU AI sebagai langkah bersejarah yang sudah terlambat. Mereka berpendapat bahwa tanpa aturan, kepercayaan terhadap AI akan runtuh.
Pihak lain melihat adanya kerugian kompetitif. Perusahaan teknologi Eropa takut akan beban regulasi. Dibandingkan dengan pesaingnya di AS atau Tiongkok, perusahaan-perusahaan Eropa mungkin kurang fleksibel. Aturan yang lebih ketat dapat menghambat kreativitas dan kecepatan. Argumennya adalah bahwa pengawasan yang ketat membuat inovasi menjadi lebih lambat dan lebih mahal.
Anita Klingel, pakar AI, tidak setuju. Dia melihat peluang dalam keterbatasan.
“Saya melihat peluang yang sangat besar. Kita tidak akan memenangkan persaingan dalam hal kecepatan dan performa tinggi. Anda bisa mendapatkannya dari Elon Musk. Namun di UE, Anda mendapatkan pengaturan yang menyeluruh, bersih, dan andal.”
UE bertaruh bahwa keselamatan dan etika akan menjadi nilai jualnya. Pertanyaannya tetap: akankah pasar global menghargai keandalan dibandingkan kecepatan biasa? Periode implementasi dua tahun akan menjelaskannya. Untuk saat ini, hukum tetap berlaku. Waktu terus berjalan bagi negara-negara anggota untuk beradaptasi.
