Josephine: S’pura ambil pendekatan proaktif, praktikal tadbir AI agentik

Sistem kecerdasan buatan (AI) yang boleh melakukan tindakan secara autonomi, atau dikenali sebagai AI agentik, menimbulkan cabaran unik kepada masyarakat, yang membangkitkan persoalan penting tentang kebertanggungjawaban apabila teknologi tidak berfungsi dan apabila manusia hilang kawalan.

“Siapakah yang bertanggungjawab apabila AI agentik tidak berfungsi?” tanya Menteri Penerangan dan Pembangunan Digital, Cik Josephine Teo, pada 22 Oktober.

Sama ada ia AI agentik, atau pengkomputeran kuantum, yang menggunakan prinsip mekanik kuantum untuk menyelesaikan masalah yang rumit, kedua-duanya memerlukan sesuatu yang baru daripada penggubal dasar, kata beliau.

Singapura akan mengambil pendekatan proaktif, praktikal dan kolaboratif untuk mentadbir teknologi baru muncul sedemikian – walaupun sebelum implikasinya dapat diramalkan sepenuhnya, kata Cik Teo, dalam laporan The Straits Times.

Beliau berkata demikian semasa membuat ucapan perasmian bagi panel mengenai AI pada hari kedua persidangan Minggu Siber Antarabangsa Singapura (SICW) di mana beliau mengumumkan tiga inisiatif baru untuk membimbing penggunaan AI dan pengkomputeran kuantum.

Ini termasuk kemas kini kepada garis panduan Agensi Keselamatan Siber (CSA) tentang memastikan sistem AI selamat, perjanjian dengan syarikat teknologi utama mengenai perkongsian perisikan dipacu AI tentang ancaman siber, serta pelancaran dokumen kesediaan dan keselamatan kuantum untuk konsultasi awam.

AI sudah pun digunakan untuk menyebarkan maklumat yang salah dan penipuan, dan juga telah menimbulkan kebimbangan tentang pengangguran sistemik dan perang siber.

Sementara itu, pengkomputeran kuantum pula, dengan keupayaannya untuk memproses nombor pada kelajuan yang luar biasa, boleh memecahkan penyulitan semasa dan mengancam asas sistem digital, yang berpotensi mengubah cara orang berfikir tentang kepercayaan.

Kedua-dua teknologi menuntut tindakan segera daripada pemerintah, kata Cik Teo.

Beliau menyarankan tiga objektif: untuk membina kepercayaan dengan rakyat, untuk memastikan rangka kerja dan ujian untuk AI dan pengkomputeran kuantum adalah relevan dan teguh, dan untuk memastikan tindakan yang tepat pada masanya.

Untuk membina kepercayaan dengan rakyat, pemerintah perlu mencipta rangka kerja praktikal untuk ujian, pengesahan dan kebertanggungjawaban untuk risiko yang dikaitkan dengan ejen AI dan pengkomputeran kuantum, walaupun apabila ia tidak melaksanakan kawalan.

Ini mesti dilakukan sebelum sistem digunakan secara meluas, kerana ia mungkin sudah terlambat untuk menangani bahaya pada masa itu, kata beliau.

Bagi objektif yang kedua, beliau berkata ruang selamat mesti disediakan untuk eksperimen dengan kaedah keselamatan yang sesuai, supaya alat dan rangka kerja yang dibangunkan boleh digunakan dalam dunia sebenar.

Bagi objektif ketiga pula, beliau berkata penggubal dasar perlu bertindak awal.

“Dalam beberapa bidang, kita tahu kesannya apabila tidak bertindak cukup awal – jurang digital, maklumat salah, maklumat palsu, bahaya dalam talian dan penipuan, sebagai contoh.

“Marilah kita cuba untuk tidak melakukan kesilapan yang sama dengan AI agentik dan kuantum,” kata beliau.

Di Singapura, sebagai contoh, AI agentik menawarkan potensi sangat besar untuk meningkatkan penyampaian perkhidmatan awam, menjangka keperluan rakyat dan meningkatkan keselamatan siber negara, tetapi adalah penting untuk mengenal pasti risiko secara sistematik sebelum memberikan autonomi kepada sistem AI, kata beliau.

Beliau juga berkata jaminan mesti dibuat secara praktikal dan boleh diukur.

Bagi tujuan ini, pemerintah akan terus membangunkan Garis Panduan dan Panduan Rakan dalam Menjaga Sistem AI CSA untuk merangkumkan rangkaian AI agentik.

Melalui pengerahan sebenar, agensi pemerintah juga “belajar dengan melakukannya”, kata beliau.

Inisiatif ruang ujian terkawal GovTech-Google Cloud, misalnya, memberi peluang kepada agensi awam untuk menguji dan menilai risiko keupayaan agentik terkini Google dan membangunkan langkah-langkah mitigasi.

“Dengan memerhatikan bagaimana sistem ini berkelakuan – dan kadangkala gagal – kita mengetahui apakah keselamatan yang benar-benar diperlukan,” kata beliau.