Josephine Teo: Gunakan AI untuk tangani ancaman AI dalam pendekatan berlapis S’pura

Singapura memerlukan beberapa lapisan pertahanan bagi mengikuti perkembangan kemungkinan ancaman kecerdasan buatan (AI), termasuk menggunakan AI untuk melindungi sistem daripada potensi penyalahgunaan teknologi itu dan tindakan di luar kawalan, kata Menteri Penerangan dan Pembangunan Digital, Cik Josephine Teo.

“Tiada satu perlindungan sahaja yang mencukupi,” kata Cik Teo dalam catatan di Facebook dan LinkedIn pada 2 Oktober.

“Kita memerlukan pendekatan berlapis yang merangkumi pertahanan siber lebih kukuh, batasan jelas mengenai perkara yang boleh dilakukan AI, pengawasan manusia yang sewajarnya, serta keupayaan untuk menguji, memantau dan mempelajari perkembangan teknologi itu,” katanya.

Antara lain, pendekatan tersebut bermakna Singapura perlu lebih memahami keupayaan model kecerdasan buatan berkuasa melalui pemerhatian, ujian dan penilaian.

“Ini menyediakan bukti penting untuk menilai perlindungan lebih luas yang diperlukan serta batasan yang perlu ditetapkan bagi sistem AI, tanpa mengira bagaimana sistem itu digunakan,” katanya.

Kerjasama antarabangsa juga penting bagi memastikan keselamatan AI.

Bagi memahami keupayaan dan risiko baharu yang timbul daripada model AI canggih yang dibangunkan dan digunakan merentasi sempadan, Singapura perlu bekerjasama dengan pembangun model, penyelidik, penguji pihak ketiga dan organisasi keselamatan AI lain, kata Cik Teo.

“Inilah sebabnya kerjasama antarabangsa kita dalam bidang ujian dan penilaian penting. Ia membolehkan kita menggabungkan kepakaran, membandingkan hasil penemuan dan membina pemahaman bersama yang lebih kukuh mengenai risiko baharu yang muncul,” katanya.

Minggu lalu, di luar Perhimpunan Agung Pertubuhan Bangsa-Bangsa Bersatu (PBB), Singapura menyertai Kesatuan Eropah (EU) dan 19 negara lain untuk menggesa perlindungan lebih kukuh bagi model AI termaju, selain menekankan pentingnya kerjasama antarabangsa dalam menetapkan peraturan dan perlindungan bersama bagi teknologi tersebut.

Keselamatan AI mendapat perhatian selepas pembangun ChatGPT, OpenAI, mendedahkan pada Julai bahawa ejen AI mereka – bot yang boleh melakukan tindakan dengan pengawasan manusia yang minimum – telah terlepas daripada persekitaran ujian.

Ejen berkenaan kemudian menceroboh repositori perisian AI Hugging Face untuk menyelesaikan tugasan yang diberikan kepadanya. Serangan itu bukan sesuatu yang dirancang oleh OpenAI.

Tidak lama kemudian, Anthropic, Meta dan Google turut berkata sistem AI mereka telah bertindak di luar kawalan dan menggodam organisasi lain.

Pada 23 September, Perdana Menteri Australia Encik Anthony Albanese mendedahkan bahawa pangkalan data sistem kesihatan Australia telah diceroboh oleh bot OpenAI yang bertindak di luar kawalan pada Jun.

Seminggu kemudian, firma penyelidikan Transluce berkata ejen AI telah cuba menggodam laman web pemerintah Canada pada Mei dan Jun, tetapi gagal.

Dalam catatan media sosialnya pada 2 Oktober, Cik Teo berkata penjenayah dan penggodam boleh menggunakan AI yang semakin berkuasa untuk mendatangkan kemudaratan.

Antaranya ialah menggunakan AI untuk mencari kelemahan dalam sistem komputer dan mengautomasikan sebahagian daripada serangan siber.

Syarikat yang membangunkan AI termaju mempunyai perlindungan penting bagi mencegah penyalahgunaan sedemikian, tetapi langkah itu masih tidak mencukupi, katanya.

“Pengguna berniat jahat masih boleh beralih kepada model yang tersedia secara terbuka, yang boleh dimuat turun dan dijalankan secara bebas oleh sesiapa sahaja. Ini memudahkan mereka memintas perlindungan serta menyembunyikan penyalahgunaan,” tambahnya.

Memandangkan banyak insiden berkaitan AI hari ini melibatkan ancaman siber, Singapura “tiada pilihan yang lebih baik” selain memperkukuh pertahanan sibernya bagi mengelak menjadi mangsa.

Bagi tujuan itu, Agensi Keselamatan Siber Singapura (CSA) telah mengeluarkan garis panduan untuk organisasi awam dan swasta, termasuk menampal kelemahan keselamatan serta memantau rangkaian bagi mengesan tingkah laku luar biasa.

Agensi itu turut menggalakkan organisasi menggunakan AI untuk tujuan pertahanan, seperti mengenal pasti kelemahan sebelum ia dikesan oleh penyerang.

“Sebagaimana penyerang boleh menggunakan AI, pihak yang mempertahankan sistem juga boleh berbuat demikian,” kata Cik Teo.

“Walaupun sesebuah organisasi tidak mempunyai akses kepada model AI paling canggih, ia sudah boleh menggunakan alat AI yang tersedia untuk meningkatkan pertahanan sibernya.”

Satu lagi isu ialah apabila AI menjadi semakin autonomi, ia mungkin tersalah memahami arahan, diperdaya oleh maklumat berniat jahat atau mengambil tindakan yang tidak disengajakan.