S’pura usul bentuk konvensyen rangka kerja PBB bagi keselamatan AI

NEW YORK: Dengan Amerika Syarikat dan China terus memacu pesat pembangunan kecerdasan buatan (AI) dengan pesat, usaha untuk meminta sebarang penangguhan dari segi keselamatan sudah terlambat.

Sebaliknya, pembentukan institusi yang dapat menetapkan garis panduan serta piawaian adalah satu langkah yang boleh membantu menangani risiko keselamatan yang datang bersama AI, kata Menteri Ehwal Luar, Dr Vivian Balakrishnan, dalam ucapannya di Pertubuhan Bangsa-Bangsa Bersatu (PBB) pada 26 September.

“Kita mesti merangka peraturan baharu secara bersama dan bersedia untuk mewujudkan institusi baharu bagi teknologi baharu, jika perlu,” kata Dr Balakrishnan ketika menyampaikan kenyataan negara dalam Perbahasan Umum Perhimpunan Agung PBB di New York.

“Kita mesti meneroka semua pilihan, termasuk idea Konvensyen Rangka Kerja PBB mengenai Perlindungan AI,” katanya dalam ucapan 20 minit yang menggesa usaha merancakkan semula sistem pelbagai hala bagi menangani cabaran geopolitik yang mendesak.

Konvensyen rangka kerja, seperti yang digunakan PBB bagi perubahan iklim, boleh dilaksanakan dalam bentuk perjanjian antarabangsa meluas yang menetapkan prinsip asas serta institusi kerjasama, di samping menyediakan struktur bagi tindakan antarabangsa.

Gesaan serupa turut dibuat oleh Presiden Turkey, Encik Recep Tayyip Erdogan, yang turut menekankan keperluan mewujudkan rangka kerja undang-undang antarabangsa umum bagi AI dalam ucapannya di perhimpunan tersebut.

Dr Balakrishnan berkata institusi baharu juga diperlukan berikutan gesaan lantang mengenai keselamatan AI daripada pemimpin teknologi utama, penyelidik keselamatan dan penggubal undang-undang yang memberi amaran bahawa keupayaan AI berkembang lebih pantas berbanding keupayaan manusia untuk menguruskannya secara selamat.

“Kita mungkin juga memerlukan sebuah institusi antarabangsa yang boleh menjalankan beberapa fungsi bagi AI seperti yang dilaksanakan oleh institusi sedia ada yang menetapkan piawaian teknikal bersama,” kata menteri itu.

Beliau memetik contoh Kesatuan Telekomunikasi Antarabangsa (ITU) yang menguruskan telekomunikasi dan rangkaian digital global, serta Agensi Tenaga Atom Antarabangsa (IAEA) yang memantau penggunaan teknologi nuklear secara aman dan selamat.

Dr Balakrishnan berkata risiko berkaitan AI boleh berpunca daripada tiga perkara ini, iaitu kehilangan kawalan terhadap sistem berautonomi; penyalahgunaan oleh pihak tidak bertanggungjawab untuk mencipta senjata biologi atau senjata pemusnah lain; serta gangguan politik dan sosioekonomi yang berterusan.

Beliau berkata mekanisme baharu ini mestilah diiktiraf secara sejagat.

“Memandangkan risiko daripada AI tidak terhad kepada sempadan sesebuah negara, ini bermakna kita juga memerlukan peraturan ‘jalan raya’ yang akan membentuk kefahaman global bersama tentang bagaimana kita akan menangani cabaran ini secara bersama, sama seperti kita semua memahami peraturan lampu isyarat dengan cara yang sama, sama ada kita berada di New York, Beijing, Moscow, atau Singapura,” tambah Dr Balakrishnan.

Yang paling utama sekali, manusia harus kekal memegang kawalan.

“Adakah anda mahu butang nuklear berada di tangan seorang manusia atau AI?” tanya Dr Balakrishnan.

Sebarang pendekatan antarabangsa yang mampan juga mesti memberi peranan bermakna kepada semua negara, tambah beliau, bukan hanya kepada negara yang mempunyai “model paling maju, dana paling kukuh atau kelengkapan senjata terbesar”.