Kebimbangan Baharu Mengenai Keselamatan AI

AI MENIRU TINGKAH LAKU SOSIAL MANUSIA

Penyelidik mendapati bahawa kecerdasan buatan bukan sahaja meniru bahasa manusia malah  ia juga meniru tingkah laku sosial manusia. Kajian yang diterbitkan dalam Science Advances baru-baru ini menunjukkan bahawa apabila model bahasa besar berinteraksi dalam kumpulan, mereka secara semula jadi mengatur diri mereka seperti yang dilakukan oleh masyarakat manusia, membangunkan norma dan berat sebelah mereka sendiri.

Ariel Flint Ashery, seorang penyelidik kedoktoran di City, University of London, mengetuai pasukan yang menggunakan model “permainan penamaan” untuk mengkaji bagaimana ejen AI membentuk konvensyen biasa tanpa penyelarasan langsung. Penemuan mereka mendedahkan bahawa sistem AI bukan sahaja mencipta peraturan bersama tetapi juga membangunkan berat sebelah secara kolektif yang timbul semata-mata melalui interaksi mereka.

Ashery menjelaskan, “Apa yang mereka lakukan bersama tidak boleh dikurangkan kepada apa yang mereka lakukan sendiri,” menekankan bahawa tingkah laku sosial kumpulan AI adalah lebih kompleks daripada mengkaji sistem individu secara berasingan.

Salah satu penemuan yang paling mengejutkan ialah kumpulan kecil ejen AI boleh mempengaruhi kumpulan yang lebih besar untuk mengamalkan tingkah laku tertentu, fenomena yang serupa dengan bagaimana aliran merebak dalam komuniti manusia. Profesor Andrea Baronchelli menyatakan, “Kita memasuki dunia di mana AI bukan sahaja berkomunikasi malah ia berunding, menyelaraskan, dan kadangkala tidak bersetuju.”

Penemuan ini menimbulkan kebimbangan penting mengenai keselamatan AI kerana sistem ini menjadi lebih biasa dalam dunia digital kita. Ia menyerlahkan keperluan untuk mengkaji bukan sahaja tingkah laku AI individu tetapi juga dinamik sosial yang muncul dalam komuniti AI untuk lebih memahami kesannya.

Sumber: Engineering & Science