IMDA, Microsoft kerjasama perdalam keselamatan, perlindungan AI

Satu Memorandum Persefahaman (MOU) baharu telah dimeterai pada 12 Jun antara Penguasa Pembangunan Infokom Media (IMDA) dan Microsoft Corporation bagi memperdalam kerjasama dalam aspek keselamatan dan perlindungan kecerdasan buatan (AI).

MOU tersebut ditandatangani oleh Timbalan Ketua Eksekutif IMDA, Encik Kiren Kumar dan Ketua Pegawai AI Bertanggungjawab Microsoft, Cik Natasha Crampton.

Di bawah perkongsian ini, kededua organisasi akan bekerjasama dalam bidang teknikal dan penyelidikan mengenai keselamatan AI, mempermudah perkongsian maklumat, serta membangunkan rangka kerja dasar untuk akses yang dipercayai kepada model AI perintis.

Perkongsian demikian amat penting memandangkan teknologi AI berkembang lebih pantas daripada apa yang mampu dikendalikan oleh mana-mana pihak secara bersendirian, menurut IMDA dan Microsoft dalam satu kenyataan bersama yang dikeluarkan pada 12 Jun.

“Matlamat akhirnya adalah untuk mewujudkan ekosistem yang dipercayai, yang mempermudahkan inovasi di samping terus memastikan pembangunan dan pelaksanaan yang selamat serta boleh diharap,” kata kenyataan itu.

Dalam pada itu, skop MOU tersebut akan merangkumi kajian bersama dalam bidang AI ‘agentic’ atau sistem AI yang mempunyai autonomi untuk bertindak dan membuat keputusan sendiri bagi mencapai sesuatu matlamat.

Di samping itu, kajian juga akan dijalankan bagi pembangunan kaedah penilaian, alatan, dan tanda aras bagi model-model AI, termasuk dalam aspek keselamatan AI berbilang bahasa.

Ia juga akan meneroka kaedah untuk memperkukuh daya tahan masyarakat terhadap cabaran kepercayaan dan keselamatan yang lebih luas yang dibawa oleh sistem AI.

Sementara itu, IMDA, Institut Keselamatan AI Singapura dan Microsoft juga akan bekerjasama dengan agensi-agensi pemerintah Singapura yang lain.

Ini bagi meneroka satu rangka kerja mengenai cara pemerintah dan pengendali infrastruktur boleh mengurus akses kepada model AI perintis secara bertanggungjawab bagi tujuan seperti ujian keselamatan dan keselamatan.

Satu kertas putih yang meneliti keperluan dari sudut permintaan, termasuk keperluan agensi pemerintah dan pengendali infrastruktur, serta pertimbangan dasar dari sudut penawaran bagi penyedia model AI juga akan dihasilkan.

Encik Kiren Kumar berkata:

“Kerjasama kami dalam keselamatan AI dengan Microsoft menunjukkan bagaimana pemerintah dan industri boleh bertindak sebagai rakan kongsi untuk memacu dan memperluas tadbir urus yang baik demi kepentingan awam.

“Ini melangkaui sekadar membangunkan rangka kerja dasar, malah menuju ke arah pembinaan bersama tanda aras, alatan, dan kaedah penilaian lain, yang secara konkrit memajukan bidang sains penilaian dalam sektor yang semakin penting ini.”

Pada 20 Mei, Kementerian Penerangan dan Pembangunan Digital (MDDI) juga telah menandatangani perjanjian OpenAI for Singapore dengan pencipta ChatGPT, OpenAI,

Di bawah perjanjian tersebut, OpenAI telah memperuntukkan lebih $300 juta bagi membangun sektor AI gunaan di Singapura, yang memberi tumpuan kepada penerapan AI dalam aliran kerja harian bagi meningkatkan daya penghasilan.

Teras utama pelan itu adalah pembukaan Makmal AI Gunaan OpenAI Singapura, yang pertama di luar Amerika Syarikat.