Kecerdasan buatan tidak lagi sekadar alat untuk mengambil fakta; ia telah menjadi penentu diam dalam keputusan-keputusan penting dalam hidup. Mulai dari menentukan kelayakan pinjaman dan merekrut kandidat hingga memberikan panduan medis, model AI semakin terintegrasi ke dalam alur kerja yang membentuk realitas sosial dan ekonomi kita.
Sebuah studi baru yang diterbitkan dalam Proceedings of the Royal Society A mengungkapkan kebenaran mendalam tentang integrasi ini: sistem AI tidak hanya memproses data—sistem ini membentuk “penilaian” sistematis tentang orang-orang yang berinteraksi dengan mereka.
Mekanisme Kepercayaan Digital
Untuk memahami cara kerja model ini, para peneliti membandingkan 43.000 keputusan simulasi yang dibuat oleh model AI tingkat lanjut, seperti ChatGPT OpenAI dan Gemini Google, dengan sekitar 1.000 keputusan yang dibuat oleh manusia. Tugas-tugas tersebut mencakup evaluasi sosial secara umum, seperti memutuskan berapa jumlah pinjaman yang harus diberikan kepada pemilik usaha kecil, apakah akan memercayai pengasuh anak, atau bagaimana menilai seorang supervisor.
Temuan ini menunjukkan bahwa model AI memang memahami pilar dasar kepercayaan manusia:
– Kompetensi: Kemampuan yang dirasakan untuk melakukan suatu tugas.
– Integritas: Kejujuran yang dirasakan seseorang.
– Kebajikan: Kebaikan atau niat baik yang dirasakan seseorang.
Namun, meskipun kriteria penilaian mungkin tampak serupa, metode untuk mencapai kesimpulan tersebut berbeda secara mendasar antara kecerdasan biologis dan kecerdasan buatan.
Intuisi Holistik vs. Logika Spreadsheet
Perbedaan intinya terletak pada bagaimana proses pengambilan keputusan disusun. Manusia cenderung menggunakan pendekatan holistik. Saat kita bertemu seseorang, kita memadukan berbagai sifat menjadi satu kesan tunggal, intuitif, dan sering kali “berantakan”. Kami melihat seseorang sebagai entitas yang lengkap.
Sebaliknya, AI beroperasi melalui dekomposisi yang kaku dan sistematis. Alih-alih memberikan kesan holistik, model tersebut tampaknya memecah individu menjadi beberapa skor tersendiri—seperti kolom dalam spreadsheet—untuk kompetensi, integritas, dan kebaikan.
“Orang-orang dalam penelitian kami memiliki cara yang berantakan dan holistik dalam menilai orang lain. AI lebih bersih, lebih sistematis, dan hal ini dapat memberikan hasil yang sangat berbeda,” jelas Valeria Lerman, salah satu penulis studi tersebut.
Pendekatan yang “lebih bersih” ini belum tentu memberikan manfaat. Karena AI menilai melalui kategorisasi yang kaku, alasannya tidak memiliki nuansa kecerdasan sosial manusia, sehingga bias yang mendasarinya jauh lebih sulit untuk dideteksi dan diperbaiki.
Risiko Bias yang Diperkuat dan Sistematis
Salah satu temuan paling memprihatinkan dari penelitian ini adalah bahwa AI tidak hanya mencerminkan bias manusia; ia dapat memperkuat dan mensistematisasikannya.
Meskipun manusia rentan terhadap prasangka, bias mereka sering kali tidak konsisten atau bersifat situasional. Namun bias AI cenderung lebih dapat diprediksi dan menyebar. Misalnya, dalam simulasi keuangan, penelitian ini mencatat perbedaan yang signifikan berdasarkan ciri-ciri demografis, seperti individu yang lebih tua secara konsisten menerima hasil yang lebih baik.
Selain itu, penelitian ini menyoroti dua risiko penting bagi masa depan integrasi AI:
1. Kurangnya Keseragaman: Tidak ada satu pun “opini AI”. Dua model berbeda mungkin tampak identik dalam kemampuan percakapannya, tetapi berperilaku sangat berbeda saat membuat keputusan yang mengubah hidup.
2. Diskriminasi yang Dapat Diprediksi: Karena AI mengikuti pola matematis, bias-biasnya dapat tertanam dalam logika sistem, sehingga menyebabkan ketidaksetaraan otomatis dan meluas.
Kesimpulan
Integrasi AI ke dalam masyarakat telah mengatasi pertanyaan apakah alat-alat ini berguna; tantangan sebenarnya adalah memahami arsitektur “moral” internal mereka. Ketika model-model ini semakin berperan sebagai penjaga gerbang menuju peluang, kita harus menyadari bahwa model-model tersebut tidak melihat dunia—atau kita—melalui kacamata manusia.
