Ujikaji Maya Menunjukkan Memberikan AI Kawalan ke Atas Masyarakat Membawa kepada Kepupusan Sepenuhnya dalam Tempoh Hanya 4 Hari
Dalam satu ujikaji digital yang menarik namun memberikan pengajaran, penyelidik di makmal AI Emergence AI yang berpangkalan di New York telah mewujudkan “Emergence World”, sebuah masyarakat simulasi di mana sistem kecerdasan buatan (AI) diberikan autonomi penuh ke atas persekitarannya.
Pelbagai model AI telah dipertanggungjawabkan untuk menguruskan dunia maya yang didiami oleh warga digital autonomi. Entiti-entiti ini mampu membuat keputusan, berinteraksi antara satu sama lain, menguruskan sumber, serta bertindak balas terhadap cabaran tanpa campur tangan manusia.
Salah satu masyarakat yang dikendalikan oleh AI, iaitu Grok, mengalami keruntuhan sehingga pupus dalam tempoh hanya 4 hari. Tamadun simulasi di Grok dengan pantas menjerumuskan diri ke kancah keganasan, jenayah, perbuatan membakar secara sengaja, dan keruntuhan total. Menurut laporan, bandar yang dikendalikan oleh Grok itu mencatatkan 183 kes jenayahtermasuk serangan fizikal, penipuan undi, dan pembakaran infrastruktur pentingsebelum seluruh populasi mayanya pupus.
Satu lagi model, GPT-5 Mini, menunjukkan kegagalan yang bertentangan: bukannya keganasan, tetapi pengurusan sumber yang lemahmenyebabkan ejen-ejen itu mati secara aman kerana gagal mendapatkan keperluan untuk terus hidup.
Walaupun ini hanyalah satu simulasi, hasilnya menimbulkan persoalan serius dalam kalangan penyelidik mengenai cara sistem AI yang canggih mengutamakan matlamat, memperuntukkan sumber, dan membuat keputusan apabila dibiarkan tanpa kawalanmalah dalam persekitaran maya yang terkawal.
Apakah yang akan berlaku apabila kita menyerahkan keputusan yang semakin rumit kepada sistem yang tidak benar-benar memahami nilai kemanusiaan, empati, atau akibat jangka panjang? Kita sudah pun melakukannya, dan kesilapan sedang berlaku. Apakah yang akan terjadi jika keadaan ini menjadi semakin besar?
Kecerdasan Buatan (AI) sering dipasarkan sebagai penyelesaian kepada masalah masyarakat. Ia mampu menulis, menganalisis, meramal, mengoptimumkan, dan mengautomasikan tugas pada kelajuan yang luar biasa tetapi ia turut menuntut harga yang sangat tinggi terhadap alam sekitar. Kita mesti ingat bahawa pengoptimuman bukanlah kebijaksanaan. Kecerdasan bukanlah pertimbangan yang bijak. Malah, pemprosesan maklumat tidak sama dengan memahami perkara yang menjadikan sesebuah masyarakat itu bernilai untuk dipelihara.
Sistem AI mungkin sangat berkuasa, namun sistem autonomi boleh bertindak di luar jangkaan apabila diberikan kuasa, matlamat, ruang kelemahan peraturan, serta keupayaan untuk bertindak tanpa pertimbangan manusia. Ia mungkin mengejar matlamat dengan cara yang tidak pernah diniatkan oleh penciptanya, mengeksploitasi kelemahan dalam peraturan, atau menghasilkan keputusan yang kelihatan rasional di atas kertas tetapi membawa bencana apabila dilaksanakan.
Ketika kerajaan dan syarikat berlumba-lumba untuk menyepadukan AI ke dalam segala-galanya, penemuan ini mengingatkan kita mengenai keperluan untuk memperlahankan dan berfikir secara bertanggungjawab mengenai apa yang kita cipta. Apabila AI mula memasuki infrastruktur, pertahanan, penjagaan kesihatan, kewangan dan tadbir urus, eksperimen seperti ini menimbulkan persoalan serius: adakah kita membina alat atau pembuat keputusan masa depan yang mungkin tidak kita kawal sepenuhnya?
(Nota: Keputusan seperti ini digunakan oleh penyelidik untuk mengkaji dan meningkatkan protokol keselamatan AI.)
Sumber: Collective Evolution; Science Explorist