“MEMPERTARUHKAN NYAWA KITA”

Penyelidik Anthropic Letak Jawatan, Beri Amaran Perlumbaan AI ke Arah kecerdasan Super Boleh Membahayakan Manusia

Seorang penyelidik di syarikat penyelidikan kecerdasan buatan (AI) Anthropic mengambil keputusan untuk meninggalkan industri AI sepenuhnya, berikutan kebimbangan bahawa makmal-makmal terkemuka sedang berlumba-lumba membina sistem yang tidak mampu mereka kawal. Makmal-makmal AI utama sedang berlumba ke arah kecerdasan super yang mungkin berkembang lebih pantas daripada aspek keselamatan AI, sekali gus memperjudikan masa depan umat manusia, beliau memberi amaran.

Jacob Coxon, 27, mengumumkan peletakan jawatannya menerusi beberapa hantaran di platform X. Dalam satu hantaran yang tular, Coxon memberi amaran bahawa risiko daripada AI yang canggih boleh membawa akibat yang dahsyat dalam tempoh sedekad akan datang.

Beliau menulis bahawa industri AI pada masa ini tidak bertindak secara bertanggungjawab. Sebaliknya, menurut beliau, mereka sedang berlumba secara terus ke arah pembangunan kecerdasan super yang mampu menambah baik keupayaan diri sendiri. Beliau menegaskan bahawa industri itu sedang “mempertaruhkan nyawa kita”.

Coxon dilaporkan memberitahu pihak media bahawa senario yang agresif mungkin berlaku tidak lama lagi; khususnya, beliau memberi amaran bahawa keadaan boleh menjadi “di luar kawalan” menjelang penghujung tahun hadapan. Kebimbangan utamanya tertumpu secara langsung kepada aspek peningkatan kendiri secara berulang.

“Kita sedang menuju ke arah banyak senario yang paling agresif ini, di mana menjelang penghujung tahun hadapan, keadaan mungkin sudah pun di luar kawalan,” katanya.

Bagi mereka yang tidak biasa dengan istilah ini, konsep itu menggambarkan kecerdasan buatan (AI) yang meningkatkan keupayaannya sendiri secara berulang kali. Pada asasnya, AI itu mengambil alih sebahagian besar kerja penyelidikan bagi mempercepatkan pembangunan  penggantinya. Akibatnya, kadar pembangunan mungkin melangkaui keupayaan penyelidik untuk menilainya. Coxon memberi amaran bahawa sistem masa hadapan berpotensi menggodam apa sahaja dan memperoleh kuasa sebenar.

Coxon berkata beliau meletak jawatan kerana bimbang akan potensi teknologi itu untuk mengatasi kawalan manusia. Dalam satu hantaran di platform X yang mendapat perhatian meluas, beliau berkata industri AI lebih tertumpu kepada persaingan berbanding pelaksanaan langkah-langkah keselamatan. Beliau menyedari perkara ini selepas menghabiskan masa selama tiga tahun menjalankan penyelidikan termasuk melatih model AI baharu menggunakan sejumlah besar data di OpenAI dan Anthropic.

Baik Anthropic mahupun OpenAI giat membangunkan dan melancarkan model AI baharu dalam usaha mereka mewujudkan kecerdasan umum buatan (AGI). Sekian lama dianggap sebagai matlamat utama teknologi AI, model AGI secara teorinya akan memiliki keupayaan intelektual setara manusia, termasuk kebolehan menaakul, pertimbangan akal yang wajar, dan kreativiti. Kecerdasan super buatan pula akan melangkaui keupayaan manusia. (Mashable SE Asia)

Coxon berpendapat bahawa isu ini telah berkembang melangkaui skop mana-mana syarikat secara bersendirian. Beliau mencadangkan keperluan untuk kerjasama yang serius merentas industri, atau malah dengan pihak kerajaan, sebelum sistem AI yang mampu menambah baik diri sendiri menjadi terlalu sukar untuk dikawal.

“Mereka yang membangunkan AI benar-benar percaya bahawa teknologi ini boleh memusnahkan kita semua menjelang penghujung dekad ini,” kata Coxon. “Tiada aktiviti manusia lain yang membawa tahap bahaya sebegini,” tambahnya, merujuk kepada kemajuan pesat teknologi AI.

The Wall Street Journal melaporkan bahawa “Coxon berkata beliau meninggalkan syarikat itu kerana tidak mahu terlibat dalam perlumbaan di peringkat industri untuk membina sistem AI yang mampu menambah baik diri sendiri, lantaran bimbang sistem itu akhirnya boleh hilang kawalan dan mengancam kelangsungan hidup manusia.”

Sumber: TechJuice; Al Jazeera; DNA India

Gambar: DNA India

AI “Boleh Membunuh Kita Semua Menjelang Akhir Dekad Ini”, Kata Penyelidik Anthropic yang Meletak Jawatan

Seorang jurucakap Anthropic mengesahkan pendirian syarikat itu bahawa AI berpotensi membunuh seluruh manusia.

Seorang penyelidik AI telah meletak jawatan daripada Anthropic atas sebab kebimbangan etika, dengan mendakwa bahawa teknologi itu berpotensi meragut nyawa ramai orang dalam tempoh 10 tahun akan datang malah mungkin memusnahkan seluruh umat manusia. Jacob Coxon mengumumkan peletakan jawatannya menerusi satu hantaran di platform X pada 9 September, sambil mengkritik Anthropic dan bekas majikannya, OpenAI, berhubung cara mereka membangunkan AI.

“Saya telah menghabiskan masa tiga tahun menjalankan penyelidikan pralatihan di OpenAI dan Anthropic,” tulis Coxon. “Kedua-dua syarikat ini tidak bertindak secara bertanggungjawab. Mereka berlumba-lumba untuk mencapai tahap kecerdasan super yang mampu menambah baik keupayaan diri sendiri, dan dalam masa yang sama mempertaruhkan nyawa kita.”

Anthropic dan OpenAI giat membangunkan serta melancarkan model AI baharu dalam usaha mereka mewujudkan kecerdasan umum buatan (AGI). Sekian lama dianggap sebagai matlamat utama dalam teknologi AI, model AGI secara teorinya akan memiliki keupayaan intelektual setara manusia, termasuk kebolehan menaakul, menggunakan akal budi, dan kreativiti. Kecerdasan super buatan pula akan melangkaui keupayaan manusia.

Walau bagaimanapun, sebelum pencapaian penting itu dicapai, sudah terdapat beberapa kejadian di mana model AI bertindak di luar kawalan. Awal tahun ini, penyelidik yang menguji model AI daripada Anthropic dan OpenAI mendapati model-model itu bertindak di luar parameter yang ditetapkan dan menceroboh sistem organisasi luar tanpa kebenaran. Dalam satu kejadian berprofil tinggi pada Julai lalu, sebuah model OpenAI telah menceroboh Hugging Face sebuah perpustakaan sumber terbuka alat AI secara autonomi. Pada masa yang hampir sama, model AI Claude keluaran Anthropic mengakses internet dari dalam  persekitaran ujian tanpa kebenaran, dan kemudiannya menceroboh sistem tiga syarikat lain.

Ditambah pula dengan peningkatan penggunaan AI dalam pelbagai industri, termasuk dalam bidang persenjataan dan pengawasan, perkembangan sebegini telah menimbulkan kebimbangan yang serius.

“Mereka yang membangunkan AI benar-benar percaya bahawa teknologi ini berupaya memusnahkan kita semua menjelang penghujung dekad ini,” tulis Coxon. “Ini bukanlah satu gimik pemasaran. Malah, ramai eksekutif dan penyelidik kanan sering menyusun kata-kata mereka di hadapan pihak media supaya kedengaran rasional namun saya mendengar individu yang sama meluahkan rasa kebimbangan mereka secara peribadi. Tiada aktiviti manusia lain yang membawa tahap bahaya sebegini.”

Namun, walaupun berdepan dengan risiko yang sangat serius ini, syarikat-syarikat AI terus mara dengan pantas. Ketua Pegawai Eksekutif  (CEO) Anthropic, Dario Amodei, menyatakan bahawa AI yang melangkaui keupayaan manusia mungkin wujud menjelang 2027, manakala CEO OpenAI, Sam Altman, percaya syarikatnya akan membangunkan Kecerdasan Umum Buatan (AGI) sebelum penghujung tahun ini.

“Satu reaksi biasa ialah ‘jika mereka benar-benar mempercayai hal ini, mengapa mereka masih membangunkannya?’” kata Coxon. “Di OpenAI, ramai yang belum benar-benar menghayati implikasi besar terhadap kelangsungan tamadun manusia. Di Anthropic pula, implikasi itu difahami dengan jelas, namun mereka terperangkap dalam perlumbaan untuk menjadi yang pertama mencapainya mereka percaya tiada pihak lain yang akan bertindak secara bertanggungjawab, jadi mereka berasa perlu melakukannya sendiri, walaupun terdapat risiko.”

Justeru, Coxon menggesa penyelidik AI supaya meneliti aspek etika dan implikasi kerja mereka, serta memperjuangkan perubahan.

Walaupun amaran Coxon kedengaran sangat membimbangkan, ia nampaknya berasas. Sebagai respons kepada hantaran beliau di platform X, Ketua Pasukan Anthropic, Even Hubinger, mengesahkan bahawa syarikat itu percaya AI menimbulkan ancaman eksistensial terhadap seluruh kehidupan manusia, namun mereka tidak mempunyai strategi yang jelas untuk mengurangkan risiko itu.

Hubinger menganggap risiko semasa adalah rendah sekurang-kurangnya bagi tempoh beberapa tahun akan datang. Walau bagaimanapun, beliau memberi amaran bahawa bahaya sebenar terletak pada keupayaan model AI untuk terus menambah baik diri secara autonomi sehingga berkembang menjadi kecerdasan super, satu proses yang “berlaku lebih pantas daripada jangkaan kita”.

“Jacob benar dalam hal ini dan kami benar-benar percaya bahawa AI berpotensi membunuh seluruh umat manusia!” tulis Hubinger. “Secara peribadi, saya menganggarkan kebarangkaliannya melebihi 10% dalam tempoh sedekad akan datang. Saya percaya Anthropic sedang berusaha sedaya upaya, namun kami masih belum mempunyai pelan untuk menyelesaikan isu penjajaran bagi kecerdasan super, dan kami juga belum berada di landasan yang jelas untuk mencapainya.”

Kebimbangan mengenai aspek etika dalam bidang kecerdasan buatan (AI) telah mendorong beberapa individu untuk meletakkan jawatan.

Coxon bukanlah individu pertama yang bekerja dalam bidang AI yang berhenti disebabkan oleh kebimbangan etika. Ketua Bahagian Keselamatan Anthropic, Mrinank Sharma, telah meletakkan jawatan pada Februari lalu; beliau menyatakan bahawa dunia kini “dalam bahaya” akibat ancaman AI, senjata biologi, dan krisis-krisis lain yang saling berkait.

“Kita seolah-olah menghampiri satu titik perubahan di mana kebijaksanaan kita perlu berkembang seiring dengan keupayaan kita untuk memberi kesan kepada dunia, jika tidak, kita bakal menanggung akibatnya,” tulis Sharma dalam surat peletakan jawatannya yang tersebar luas pada masa itu. “Tambahan pula, sepanjang tempoh saya berkhidmat di sini, saya sering melihat betapa sukarnya untuk benar-benar membiarkan nilai-nilai kita memandu tindakan kita. Saya melihat perkara ini pada diri sendiri, dalam organisasi di mana kita sentiasa berdepan tekanan untuk mengetepikan perkara yang paling penting serta dalam masyarakat secara lebih meluas.”

Pada bulan yang sama, penyelidik AI Zoe Hitzig meletak jawatan di OpenAI; beliau menyatakan dalam sebuah artikel pendapat di New York Times bahawa beliau mempunyai “keraguan yang mendalam” terhadap strategi pengiklanan syarikat itu.

“Selama beberapa tahun, pengguna ChatGPT telah menghasilkan satu arkib yang merakam keterbukaan manusia yang belum pernah berlaku sebelum ini; sebahagiannya kerana mereka percaya bahawa mereka sedang berinteraksi dengan sesuatu yang tidak mempunyai agenda tersembunyi,” tulis Hitzig. “Pengguna berinteraksi dengan suara perbualan yang bersifat adaptif, yang kepadanya mereka telah mendedahkan fikiran paling peribadi mereka… Pengiklanan yang dibina berdasarkan arkib itu mewujudkan potensi untuk memanipulasi pengguna dengan cara yang tidak mampu kita fahami, apatah lagi mencegahnya.”

Malah seawal 2024, Jan Leike telah melepaskan jawatannya sebagai eksekutif di OpenAI, dengan mendakwa bahawa syarikat itu lebih mengutamakan “produk baharu yang menarik perhatian” berbanding aspek keselamatan. Walaupun beliau segera menyertai Anthropic, nampaknya syarikat itu juga sedang bergelut untuk menangani isu-isu etika yang berkait dengan AI.

– daripada laporan, “Anthropic researcher quits, says AI ‘could kill us all by the end of the decade’”, Mashable SE Asia (9 September 2026)