‘Godfather of AI’ Tuntut Peraturan Lebih Ketat untuk Hentikan Teknologi daripada Menghapuskan Kemanusiaan
“Satu-satunya perkara yang boleh memaksa syarikat besar melakukan lebih banyak penyelidikan mengenai keselamatan ialah peraturan kerajaan.”
Memberi amaran bahawa kadar pembangunan kecerdasan buatan adalah “lebih pantas” daripada yang dia jangkakan dan berlaku tanpa adanya peraturan yang meluas, saintis komputer yang sering dipanggil “Godfather of AI” berkata dia percaya peluang semakin meningkat bahawa AI boleh menghapuskan kemanusiaan.
Bercakap kepada program “Today” Radio 4 BBC, Geoffrey Hinton berkata terdapat “10% hingga 20%” kemungkinan AI boleh membawa kepada kepupusan manusia dalam tiga dekad akan datang.
Sebelum ini Hinton pernah berkata dia melihat kemungkinan 10% perkara itu berlaku.
“Kami tidak pernah perlu berurusan dengan perkara yang lebih cerdas daripada diri kita sendiri sebelum ini,” jelas Hinton. “Dan berapa banyak contoh yang anda tahu tentang perkara yang lebih cerdas dikawal oleh perkara yang kurang cerdas? Contohnya sangat sedikit. Ada ibu dan bayi. Evolusi meletakkan banyak usaha untuk membenarkan bayi mengawal ibu, tetapi itu satu-satunya contoh yang saya tahu.”
Hinton, yang dianugerahkan Hadiah Nobel fizik 2024 bagi penyelidikannya dalam pembelajaran mesin dan AI, meninggalkan kerjanya di Google tahun lepas, berkata dia mahu dapat bercakap lebih lanjut mengenai bahaya AI yang tidak terkawal.
Dia memberi amaran bahawa chatbots AI boleh digunakan oleh pemimpin autoritarian untuk memanipulasi orang ramai, dan berkata tahun lepas bahawa “jenis kecerdasan yang kami bangunkan sangat berbeza daripada kecerdasan yang kami ada.”
Hinton berkata dia amat bimbang khususnya “tangan halimunan” pasaran tidak akan menyelamatkan manusia daripada teknologi yang melebihi kecerdasan mereka, dan meminta peraturan ketat AI.
“Hanya menyerahkannya kepada motif keuntungan syarikat besar tidak akan mencukupi untuk memastikan mereka membangunkannya dengan selamat,” kata Hinton.
Lebih daripada 120 rang undang-undang telah dicadangkan di Kongres Amerika Syarikat (AS) untuk mengawal selia robocall AI, peranan teknologi dalam keselamatan negara dan isu lain, manakala pentadbiran Biden telah mengambil beberapa tindakan untuk mengekang pembangunan AI.
Perintah eksekutif yang menggesa bagi “Pembangunan dan Penggunaan Kecerdasan Buatan yang Selamat, Terjamin dan Boleh Dipercayai” mengatakan bahawa “memanfaatkan AI bagi kebaikan dan merealisasikan pelbagai manfaatnya memerlukan mengurangkan risikonya yang besar.” Presiden terpilih Donald Trump dijangka membatalkan perintah itu.
Rangka Tindakan Rumah Putih bagi Rang Undang-Undang Hak AI memerlukan sistem yang selamat dan berkesan, perlindungan diskriminasi algoritma, privasi data, notis dan penjelasan apabila AI digunakan, dan keupayaan untuk menarik diri daripada sistem automatik.
Tetapi Akta Kecerdasan Buatan Kesatuan Eropah telah dianggap sebagai “kegagalan” oleh penyokong hak pada tahun ini, selepas lobi industri membantu memastikan undang-undang itu merangkumi banyak kelemahan dan pengecualian bagi penguatkuasaan undang-undang dan pihak berkuasa migrasi.
“Satu-satunya perkara yang boleh memaksa syarikat besar untuk melakukan lebih banyak penyelidikan mengenai keselamatan,” kata Hinton, “adalah peraturan kerajaan.”
Sumber: Common Dreams, 28 Disember 2024