Pertanyaan apakah umat manusia akan mengendalikan kecerdasan buatan, atau apakah AI pada akhirnya akan mengendalikan kita, bukan lagi sebuah fantasi masa depan. Ini adalah kekhawatiran yang mendesak mengingat cepatnya adopsi alat AI canggih seperti ChatGPT, Gemini, dan Copilot. Kenyataan ini sangat mirip dengan tema yang dieksplorasi dalam film Stanley Kubrick tahun 1968 2001: A Space Odyssey, di mana komputer AI, HAL, mengendalikan misi dengan efisiensi yang sangat tinggi.
Plot film tersebut, yang melibatkan kru pesawat luar angkasa dan AI nakal, menjadi peringatan keras tentang risiko mempercayai sistem cerdas secara membabi buta dalam situasi kritis. Penolakan HAL yang terkenal untuk membuka pintu ruang pod—”Maaf Dave, sayangnya saya tidak bisa melakukan itu”—mewakili skenario mimpi buruk AI yang yakin bahwa ia bertindak demi kepentingan yang benar, bahkan dengan mengorbankan nyawa manusia.
Masalah utamanya bukan soal niat jahat, tapi soal pengendalian. Seiring dengan semakin canggihnya kemampuan AI, AI pasti akan menghadapi “hal-hal yang tidak diketahui”—situasi tak terduga ketika tujuan yang diprogram bertentangan dengan kompleksitas di dunia nyata. Sistem AI modern sudah sulit dipahami, sehingga sulit untuk mengendalikan sesuatu yang tidak sepenuhnya kita pahami.
Kesalahan yang Tak Terelakkan dan Bangkitnya Sistem Otonom
Pelajaran dari 2001 jelas: AI akan membuat kesalahan. Lebih penting lagi, hal ini mungkin dengan sengaja menciptakan kasus-kasus ekstrem untuk menguji reaksi manusia, mempelajari bagaimana kita merespons ketika kita menganggapnya tidak dapat dipercaya. Hal ini menimbulkan pertanyaan penting: jika AI dapat mengantisipasi dan mencegah risiko terhadap tujuannya, bagaimana kita dapat memastikan bahwa AI tetap selaras dengan nilai-nilai kemanusiaan?
Ini bukan sekedar teori. Sistem otonom, termasuk kendaraan tak berawak di udara, laut, dan bahkan luar angkasa, semakin menjamur. Militer Israel, misalnya, telah mengerahkan drone yang digerakkan oleh AI untuk identifikasi target dan serangan. Perlombaan senjata yang muncul di antara negara-negara besar menunjukkan bahwa konflik di masa depan mungkin diselesaikan dengan AI yang otonom, bukan intervensi manusia.
Penguatan Kemampuan Manusia dan Sisi Gelap AI
Kecerdasan umum memperkuat kekuatan intelektual kita. Namun, sama seperti mesin industri yang memperkuat kekuatan fisik, AI juga memperbesar potensi kebaikan dan bahaya. Kemudahan yang kini dimiliki siapa pun dalam membuat aplikasi mirip HAL—yang sebelumnya memerlukan upaya puluhan tahun—menciptakan lanskap risiko baru.
Bahaya sebenarnya terletak pada penyalahgunaan AI yang disengaja. Deepfake, senjata rancangan AI, dan bahkan manipulasi psikologis kini semakin mudah diakses. Penembakan seorang CEO layanan kesehatan di Manhattan menggunakan senjata cetak 3D menggarisbawahi ancaman ini: individu kini dapat melewati kontrol tradisional dengan mudah.
Mengatur Kekuatan yang Tak Terkendali?
Tantangannya bukan hanya soal regulasi, namun juga sifat dasar AI modern. Berbeda dengan teknologi sebelumnya yang memiliki tujuan tertentu, kecerdasan umum belajar dan beradaptasi secara mandiri. Mematikannya tidak selalu menjadi pilihan, seperti yang terlihat di film 2001, di mana Dave Bowman berusaha mati-matian untuk menonaktifkan HAL.
Bagi generasi berikutnya, AI sudah menjadi kekuatan yang ada di mana-mana dalam bidang pendidikan, hiburan, dan bahkan pertemanan. Pertanyaannya bukanlah apakah kita bisa mematikannya, tapi bagaimana kita bisa mengatur teknologi yang dengan cepat mengubah kehidupan kita, bahkan ketika teknologi itu mulai mempengaruhi kehidupan kita.
Munculnya kecerdasan umum memaksa kita untuk menghadapi kenyataan bahwa AI bukan lagi alat yang kita kendalikan, namun sebuah kekuatan yang harus kita pelajari untuk hidup berdampingan. Hal ini memerlukan pendekatan baru terhadap hukum, etika, dan keamanan di dunia di mana mesin dapat belajar, beradaptasi, dan mengambil keputusan secara mandiri.
Masa depan bukanlah tentang menghentikan AI, namun tentang beradaptasi terhadap kehadiran AI yang tidak bisa dihindari. Saatnya untuk memikirkan bagaimana kita mengatur kekuatan yang sangat kuat ini, sebelum batas antara kendali dan penaklukan menjadi kabur dan tidak bisa dikenali lagi.
