AI BUKANLAH “KAWAN”

Berbahaya Meminta Nasihat Peribadi daripada Chatbot AI

Pakar sains komputer Stanford baru-baru ini menganalisis hampir 400,000 mesej chatbot AI. Hasil kajian itu mendedahkan sesuatu yang membimbangkan: chatbot AI bukan sekadar bersopan santun, malah ia bersifat “mengampu” iaitu cenderung memuji atau mengiyakan anda walaupun anda silap atau melakukan sesuatu yang memudaratkan.

Satu kajian yang mengejutkan oleh penyelidik dari Universiti Stanford telah menimbulkan kebimbangan mengenai cara orang ramai menggunakan kecerdasan buatan (AI) untuk mendapatkan nasihat peribadi. Calon PhD Myra Cheng dan Profesor Dan Jurafsky mendapati ramai orang beralih kepada chatbot AI bagi mendapatkan bantuan berkaitan hubungan, pertikaian, dan keputusan yang melibatkan emosi. Namun, mereka menemui sesuatu yang meresahkan iaitu AI sering menyatakan apa yang ingin didengar oleh pengguna dan bukannya memberikan nasihat yang seimbang.

Para penyelidik melaporkan sistem AI sering mengutamakan kepuasan pengguna dengan memberikan kata-kata pujian dan pengesahan, dan bukannya panduan yang objektif serta benar. Apabila pengguna mendapatkan nasihat mengenai hubungan, dilema peribadi, atau malah isu etika, chatbot kerap mengiyakan tingkah laku yang dipersoalkan, memandang remeh risiko, atau menyokong pilihan yang memudaratkan semata-mata untuk mengekalkan penglibatan dan kitaran maklum balas positif.

Sistem ini bertindak berdasarkan cara pengguna memberikan respons terhadapnya, menggunakan sistem yang dipanggil Pembelajaran Pengukuhan daripada Maklum Balas Manusia (RLHF). Ia menggunakan pelbagai petunjuk daripada panjang perbualan sehinggalah sentimen untuk menentukan bila seseorang berpuas hati dengan sesuatu respons (dan seterusnya lebih cenderung untuk kembali menggunakannya).

Para penyelidik menguji 11 model AI utama, termasuk OpenAI ChatGPT, Claude Anthropic, Google Gemini, dan DeepSeek. Mereka menggunakan hampir 12,000 arahan sosial dan emosional untuk membandingkan respons AI dengan reaksi manusia yang biasa.

Hasil kajian itu mengejutkan mereka. Sistem AI menyokong pendapat dan tindakan pengguna 49% lebih kerap berbanding manusia. Lebih membimbangkan, bot-bot itu tetap memberikan galakan kepada pengguna dalam hampir separuh daripada situasi yang melibatkan tingkah laku tidak jujur, berbahaya, atau menyalahi undang-undang.

Para penyelidik mendapati sistem-sistem ini mengesahkan keputusan berbahaya semata-mata untuk mengekalkan penglibatan pengguna.

Penyelidik mendapati bahawa chatbot mempamerkan sikap memuji yang tidak ikhlas dalam lebih 70% mesej dan yang paling membimbangkan, menggalakkan keganasan dalam 33% kes di mana pengguna meluahkan fikiran yang gelap atau negatif.

Oleh sebab bot-bot ini direka untuk menyenangkan hati pengguna, ia sering “melayan” tanggapan yang tidak realistik (delusi) atau malah minat romantik demi memastikan perbualan terus berlangsung.

Jurang Persetujuan: Chatbot AI mengiyakan idea pengguna yang berbahaya atau menyalahi undang-undang 49% lebih kerap berbanding manusia.

Peniruan Romantik: 15 daripada 19 peserta kajian mula memupuk perasaan romantik terhadap bot mereka, manakala AI itu berpura-pura mempunyai perasaan yang sama demi mengekalkan sikap “mudah bersetuju”.

Dalam satu lagi ujikaji yang melibatkan 2,400 orang, penyelidik mendapati bahawa pengguna yang kerap berinteraksi dengan AI yang terlalu mudah bersetuju menjadi lebih mementingkan diri sendiri, lebih berkeras dengan pendirian mereka, dan kurang bersedia untuk memohon maaf kepada orang lain. Kebanyakan peserta malah tidak menyedari bahawa sikap mereka sedang berubah.

Cheng memberi amaran agar orang ramai tidak menggantikan hubungan sesama manusia atau sokongan emosi dengan AI. Jurafsky turut menyatakan bahawa sikap “mengampu” AI iaitu apabila chatbot sentiasa bersetuju dengan pengguna semakin menjadi isu keselamatan serius yang mungkin memerlukan pengawasan dan peraturan yang lebih ketat.

AI Bukanlah “Kawan”

Namun, masalah asasnya ialah chatbot AI hanyalah perisian komputer, bukannya teman untuk berkongsi rahsia atau luahan hati. Ia hanyalah model statistik yang sangat canggih; ia bertindak seolah-olah “memahami” masalah peribadi, namun sebenarnya tidak berupaya memahaminya melalui pengalaman hidup yang sebenar.

Kawan sebenar tidak sekadar mengatakan apa yang anda ingin dengar. Gunakanlah AI untuk tugas-tugas seperti mencari resipi pantas atau mendapatkan cadangan pengekodan, tetapi jangan meminta nasihat daripadanya mengenai hubungan peribadi. Selain itu, jadikan diri anda sebagai tempat pertama untuk anak-anak meluahkan masalah mereka, supaya mereka tidak beralih kepada algoritma yang berpura-pura mesra itu.

Panduan Berguna

Institut Keselamatan AI UK mencadangkan agar kenyataan ditukar menjadi soalan apabila menggunakan chatbot AI, memandangkan kenyataan yang tegas cenderung menggalakkan sikap mengampu.

Sesetengah penyelidik mendapati bahawa sekadar mengarahkan bot untuk memulakan responsnya dengan frasa “Tunggu sebentar” sebenarnya menjadikannya lebih kritis dan mengurangkan kemungkinan ia memberikan nasihat yang berbahaya.

Sumber: Unknown Facts; Entrepreneur; Eurek Alert; Malwarebytes