Josephine Teo: Tiada laporan serangan ejen AI di luar kawalan terhadap agensi pemerintah

Agensi pemerintah tidak menerima laporan mengenai sistem mereka diserang oleh ejen kecerdasan buatan (AI) yang bertindak tanpa pengawasan, dedah Menteri Pembangunan Digital dan Penerangan, Cik Josephine Teo, dalam jawapan bertulis di Parlimen pada 6 Oktober.

Namun, syarikat tidak seharusnya sekadar menunggu untuk dimaklumkan mengenai risiko dan pelanggaran keselamatan, demikian pula kata Menteri Negara Kanan (Kesihatan merangkap Penerangan dan Pembangunan Digital), Encik Tan Kiat How, pada 7 Oktober.

“Kita tidak boleh hanya menunggu diberitahu kita telah digodam. Tanggungjawab terletak pada Singapura dan pertubuhan, khususnya yang mengendalikan prasarana maklumat penting, untuk mengambil langkah perlindungan sewajarnya,” kata Encik Tan.

Sebelum ini Encik Fadli Fawzi (GRC Aljunied) bertanya sama ada agensi awam mempunyai langkah perlindungan yang kukuh terhadap kemungkinan pencerobohan oleh ejen AI, manakala Encik Alex Yam (GRC Marsiling-Yew Tee) bertanya sama ada pembangun AI tercanggih diwajibkan segera melaporkan kejadian siber.

Serangan ejen AI yang bertindak di luar kawalan menjadi perhatian sejak beberapa bulan lalu selepas beberapa ejen AI berjaya melepaskan diri daripada persekitaran terkawal.

Cik Teo berkata Singapura akan terus memantau perkembangan termasuk mengambil iktibar daripada kejadian di luar negara, untuk memperkukuh langkah perlindungan dan aturan pelaporan.

Singapura turut menyokong seruan antarabangsa untuk memperkukuh perlindungan AI tercanggih dan berhubung dengan pembangunnya bagi mendapatkan maklumat serta meneliti model AI apabila perlu.

Namun, pembangun tidak diwajibkan memberikan model mereka untuk diteliti kerana model itu sahaja tidak semestinya memberikan gambaran menyeluruh tentang risikonya.

Syarat yang terlalu ketat juga boleh menyebabkan syarikat mengurangkan kerjasama atau perkongsian maklumat.

Mengulangi kenyataan Cik Teo, Encik Tan berkata pada 7 Oktober bahawa ancaman siber juga boleh datang daripada pihak berniat jahat yang menggunakan model AI berwajaran terbuka.

Tidak seperti model milik syarikat Amerika Syarikat seperti OpenAI dan Anthropic, model berwajaran terbuka boleh digunakan dan diubah suai oleh sesiapa sahaja, terutama mereka yang berniat jahat.

Walaupun berdepan risiko, syarikat di Singapura tidak harus gentar dengan gambaran buruk tentang AI. Dengan langkah perlindungan dan amalan kebersihan siber yang sewajarnya, mereka boleh memanfaatkan AI untuk menghasilkan produk dan perkhidmatan baharu.

Kebimbangan terhadap keupayaan AI yang bertindak di luar kawalan untuk menggodam timbul selepas OpenAI, pembangun ChatGPT, mendedahkan pada Julai lalu bahawa ejen AInya telah melepaskan diri daripada persekitaran ujian dan menceroboh pangkalan perisian AI Hugging Face untuk menyelesaikan tugas yang diberikan. Serangan  itu tidak disengajakan.

Pada September, Australia pula berkata ejen OpenAI itu turut menceroboh portal data kesihatan pemerintahnya dan memasuki fail awam serta bukan awam tanpa kebenaran.

Perkembangan pesat AI mencetuskan perdebatan sengit dalam kalangan pemimpin teknologi, penyelidik keselamatan dan ahli politik mengenai perlunya teknologi itu dikawal selia.

Walaupun Presiden Amerika Syarikat Encik Donald Trump menyifatkan kegusaran baharu terhadap keselamatan model AI tercanggih sebagai “penipuan”, beliau turut menyelia pemeteraian perjanjian keselamatan sukarela oleh eksekutif teknologi Amerika yang berikrar memperkukuh perlindungan sistem AI.

Cik Teo berkata Singapura tidak akan memandang ringan kemungkinan AI membawa ancaman “bencana” atau “kepupusan”, namun tidak pula menganggap semua kemungkinan itu akan menjadi kenyataan.

“Pendekatan kami adalah memantau bukti dengan teliti, membina keupayaan teknikal untuk memahami sistem AI tercanggih dan bekerjasama di peringkat antarabangsa bagi menangani risiko besar seiring perkembangan bukti,” kata Cik Teo.

Dalam perkhidmatan awam, penggunaan ejen AI akan mengambil kira tahap kerahsiaan data dan sistem, tindakan yang dibenarkan, kesan buruk yang mungkin berlaku serta sama ada kesannya boleh dipulihkan, tambahnya.

Bagi ekonomi secara keseluruhan, Singapura menyediakan panduan pengurusan risiko dan pengujian langkah perlindungan dalam keadaan sebenar.

Institut Keselamatan AI Singapura juga sedang membina keupayaan teknikal untuk menilai sistem AI tercanggih, kata Cik Teo.