S’pura perkenal rangka kerja bagi tangani ejen AI tidak terkawal

Keupayaan sistem kecerdasan buatan (AI) mengambil maklumat daripada pelbagai pangkalan data dan bertindak secara bebas telah mencipta bahaya baru, seperti kemungkinan pembayaran tanpa izin dan pencurian data peribadi.

Risiko ini, berserta garis panduan untuk pencegahan, termaktub dalam rangka kerja baru, Model Rangka Kerja Tadbir Urus AI bagi AI Agentik, yang dilancarkan Penguasa Pembangunan Infokom Media (IMDA) pada 22 Januari.

Berbeza daripada AI biasa, sistem AI agentik baru ini mampu memahami bahasa semula jadi, lantas mampu membuat penilaian dan melaksanakan tugas secara bebas bagi pihak pengguna. Bahasa semula jadi ialah bahasa manusia, seperti bahasa Inggeris atau Melayu, berbanding bahasa mesin atau bahasa pengkomputeran, sebagai contoh.

Contoh ejen AI termasuk pembantu pengekodan yang boleh menjana, menguji, dan membetulkan (debug) kod, hanya melalui arahan bahasa semula jadi.

Ia juga berupaya mengautomasikan tugas berulang untuk organisasi, membolehkan pekerja fokus kepada tugas yang lebih kompleks.

Namun, IMDA menegaskan pada 22 Januari bahawa akses ejen AI kepada data sensitif dan keupayaannya membuat perubahan kepada sekitaran digital menimbulkan risiko baru.

Misalnya, ejen AI boleh tersilap menetapkan temu janji perubatan, hingga menjejaskan seorang pesakit.

Ia juga boleh bertindak melebihi had kuasa tanpa persetujuan manusia.

Bagi mengurangkan risiko ini, rangka kerja itu menekankan agar organisasi mengehadkan bilangan alat dan sistem yang boleh diakses setiap ejen.

Sebagai contoh, pembantu pengekodan mungkin tidak perlu mengakses enjin carian web.

Menteri Penerangan dan Pembangunan Digital, Cik Josephine Teo, berkata rangka kerja ini diperkenalkan untuk menjelaskan jangkaan pemerintah, sementara organisasi masih membangunkan ejen masing-masing. Beliau menyatakan ini dalam temu bual maya dengan media tempatan pada 22 Januari.

“Rangka kerja ini belum mencapai tahap perincian yang kami inginkan, namun lebih baik ada jangkaan yang jelas daripada tiada langsung,” ujar Cik Teo.

Cik Teo ketika itu berada di Davos, Switzerland, bagi menghadiri Forum Ekonomi Sedunia (WEF) untuk membincangkan AI agentik dan teknologi kuantum.

Dengan melancarkan rangka kerja itu di forum global, beliau menambah bahawa pemerintah berharap dapat meningkatkan kesedaran mengenai peraturan yang perlu dipatuhi penyedia antarabangsa apabila menawarkan perkhidmatan kepada pelanggan di Singapura.

Walaupun keupayaan ejen AI semakin maju, rangka kerja itu menegaskan bahawa manusia dan organisasi tetap bertanggungjawab atas tindakan mereka, melalui pembahagian tanggungjawab yang jelas.

Organisasi juga perlu menetapkan titik semakan penting yang memerlukan campur tangan manusia.

Ini termasuk tindakan yang tidak dapat diubah seperti memadam data secara kekal, atau apabila ejen penghantaran memilih laluan yang dua kali ganda lebih jauh daripada jarak purata.

Rangka kerja baru itu dibangunkan dengan maklum balas daripada agensi pemerintah dan organisasi sektor swasta, menurut IMDA.

IMDA turut mengalu-alukan lebih banyak maklum balas dan kajian kes tentang penggunaan ejen AI secara selamat.

Rangka kerja itu merupakan kemas kini kepada versi 2020 untuk AI tradisional, yang menjadi asas kepada penggunaan AI yang beretika dan bertanggungjawab.

Cik Teo menjelaskan bahawa dengan menyusun asas pengetahuan yang boleh dirujuk organisasi melalui rangka kerja baru itu, pemerintah berharap dapat menjadikan akses pengetahuan pelaksanaan AI agentik di kalangan syarikat lebih saksama, termasuk perusahaan kecil dan sederhana (SME).