MAS: Institusi kewangan mesti kekal bertanggungjawab bagi kegunaan alat AI pihak ketiga

Institusi kewangan di Singapura yang menggunakan alat kecerdasan buatan (AI) seperti chatbot mesti kekal bertanggungjawab terhadap sebarang kesan tidak diingini, termasuk kebocoran data atau maklumat tidak tepat, walaupun perisian tersebut dibangunkan oleh pihak ketiga.

Garis panduan baharu mengenai penggunaan AI dalam sektor kewangan diterbitkan Penguasa Kewangan Singapura (MAS) pada 7 Oktober. Ia menetapkan jangkaan kawal selia mengenai cara institusi seperti bank dan syarikat insurans harus mengurus risiko yang timbul daripada penggunaan AI.

Garis panduan itu akan dilaksanakan secara berperingkat mulai Oktober 2027, di tengah-tengah perdebatan hangat mengenai keselamatan dan kawal selia model AI canggih yang mempunyai keupayaan autonomi.

“Institusi kewangan kekal bertanggungjawab terhadap AI yang digunakan dalam perkhidmatan yang mereka sediakan, termasuk AI yang dibangunkan, dikendalikan atau disediakan oleh pihak ketiga,” kata MAS dalam kenyataannya pada 7 Oktober.

MAS menambah bahawa institusi kewangan harus menilai faktor seperti ketelusan model, kebolehjelasan serta pelan kecemasan sekiranya berlaku tingkah laku tidak dijangka, sebelum memutuskan untuk menggunakan alat AI pihak ketiga.

Garis panduan itu turut menggariskan keperluan pengawasan manusia, inventori yang menjejaki pelbagai kegunaan AI, serta penggunaan langkah perlindungan yang sepadan dengan tahap risiko.

Garis panduan itu menyusuli tempoh rundingan awam pada November 2025, apabila responden meminta penjelasan sama ada institusi boleh menggunakan struktur tadbir urus sedia ada untuk mengurus risiko AI, cara mengurus risiko daripada AI terbenam, serta sama ada dasar asas tadbir urus AI sudah memadai.

Garis panduan baharu menjelaskan bahawa dasar asas tadbir urus AI, seperti mengehadkan kemasukan maklumat sulit atau maklumat pelanggan, memadai sekiranya prestasi buruk perkhidmatan AI tidak mungkin memberi kesan buruk yang ketara kepada syarikat, pelanggan atau pihak berkepentingan.

Ini termasuk penggunaan AI untuk menyediakan dan menyemak e-mel, meringkaskan nota mesyuarat dalaman serta mereka bentuk bahan pemasaran.

Lembaga pengarah dan pengurusan kanan mesti bertanggungjawab menyemak secara berkala dasar dan risiko berkaitan penggunaan AI, selain mewujudkan proses pelaporan dalaman yang jelas bagi mengurus insiden yang berpunca daripada penggunaan AI.

“Struktur tadbir urus sedia ada boleh digunakan jika ia menyediakan pengawasan yang mencukupi serta penyelarasan merentas fungsi. Institusi kewangan tidak perlu menubuhkan jawatankuasa AI khusus semata-mata untuk memenuhi jangkaan ini,” kata MAS.

Antara peraturan utama lain ialah keperluan menyediakan “inventori” mengenai pelbagai cara AI digunakan oleh institusi. Inventori itu harus merangkumi butiran sistem dan model yang digunakan, seperti kaedah penggunaan yang diluluskan, data latihan yang terlibat serta individu yang bertanggungjawab.

Penilaian risiko juga perlu dijalankan dengan mengambil kira faktor seperti kemungkinan kesan daripada prestasi AI yang lemah dan tahap autonomi yang diberikan kepada sistem AI.

MAS berkata kawalan yang sepadan dengan tahap risiko kemudian boleh dilaksanakan.

Sebagai contoh, AI yang digunakan untuk membuat keputusan kredit, menilai permohonan insurans atau aktiviti lain yang memberi kesan besar kepada pelanggan memerlukan penelitian lebih ketat dan kawalan yang kukuh.

Langkah kawalan yang sesuai juga mesti dilaksanakan bagi mengurangkan risiko kecenderungan berat sebelah dan hasil yang mendiskriminasi yang mungkin berpunca daripada penggunaan AI, kata MAS.

“Sebagai contoh, perhatian lebih perlu diberikan kepada penggunaan AI dalam bidang seperti keputusan kredit dan penilaian permohonan insurans yang boleh menyebabkan akses kepada perkhidmatan atau produk kewangan ditolak secara tidak adil,” tambahnya.

Institusi kewangan dijangka mematuhi peraturan yang digariskan dalam garis panduan itu melalui dua fasa.

Mulai 7 Oktober 2027, institusi mesti mempunyai sistem asas tadbir urus yang siap, termasuk inventori alat AI yang digunakan serta keupayaan menjalankan penilaian risiko.

Mulai 8 Oktober 2028 pula, institusi mesti berupaya menguji dan memantau sistem AI dengan rapi serta mengekalkan kawalan manusia yang ketat terhadap sistem tersebut. Mereka juga perlu mempunyai kakitangan berkemahiran dan infrastruktur teknologi yang diperlukan bagi mengendalikan AI dengan selamat.

Pada 2027, MAS bercadang mengadakan rundingan lanjut dengan sektor kewangan mengenai panduan tambahan yang diperlukan bagi penggunaan AI berasaskan ejen, atau agentic AI.

AI mempunyai potensi besar untuk mempertingkat perkhidmatan kewangan dengan meningkatkan pengalaman pelanggan, memperkukuh pengurusan risiko dan menghasilkan produk baharu, kata Timbalan Pengarah Urusan MAS, Encik Ho Hern Shin.

“Merealisasikan manfaat ini secara mampan memerlukan institusi kewangan memahami dan mengurus risiko yang datang bersama sistem AI yang semakin berkeupayaan,” kata Encik Ho.

“Dengan kejelasan kawal selia yang lebih baik mengenai penggunaan AI oleh institusi kewangan, institusi boleh berinovasi dengan yakin sambil mengekalkan kepercayaan pelanggan dan daya tahan sistem kewangan Singapura.”