Syarikat wajib maklum penggunaan data peribadi bagi latihan model AI

Mulai 20 Julai, organisasi di Singapura diwajibkan memaklumkan pengguna apabila data peribadi mereka digunakan untuk melatih model kecerdasan buatan (AI) janaan, dalam usaha meningkatkan ketelusan dan tanggungjawab organisasi.

Menteri Penerangan dan Pembangunan Digital, Cik Josephine Teo, mengumumkan langkah itu pada Pesta Data Singapura pada 20 Julai, sambil menegaskan bahawa penggunaan AI janaan yang semakin meluas memerlukan tahap tanggungjawab yang lebih tinggi.

Pesta itu, yang dahulunya dikenali sebagai Minggu Perlindungan Data Peribadi, telah dijenamakan semula bagi mencerminkan peranan data dan AI yang semakin penting dalam ekonomi digital.

Keperluan baharu yang dikenali sebagai notis khusus AI diperincikan dalam garis panduan nasihat mengenai penggunaan data peribadi dalam sistem AI janaan, yang dikeluarkan oleh Suruhanjaya Perlindungan Data Peribadi (PDPC) pada 20 Julai selepas rundingan awam dari 2 Jun hingga 1 Julai.

PDPC berkata langkah itu perlu kerana data sensitif seperti maklumat kanak-kanak serta rekod kesihatan dan kredit boleh didedahkan atau didapatkan daripada model AI, manakala data yang telah digunakan untuk melatih model sukar dipadam atau diperbetulkan.

Data peribadi merangkumi nama, nombor telefon, alamat e-mel, rakaman suara, gambar, maklumat biometrik serta rekod kewangan dan urus niaga.

Sebelum ini, organisasi hanya perlu bergantung pada notis privasi umum apabila menggunakan data bagi membangunkan produk baharu atau menyediakan perkhidmatan yang disesuaikan mengikut keperluan pengguna.

Walaupun notis khusus AI diwajibkan, PDPC tidak menetapkan kandungan atau lokasi notis tersebut, sebaliknya menyarankan syarikat menjelaskan jenis data yang digunakan melalui paparan aplikasi atau laman web khas.

Saluran bagi pengguna menarik balik persetujuan juga tidak diwajibkan.

Bagi pusat panggilan yang menggunakan rakaman perbualan untuk melatih AI, pindaan pada dasar privasi atau skrip sudah memadai.

Notis khusus AI tidak diperlukan jika data yang digunakan tidak mempunyai maklumat pengenalan.

Organisasi, termasuk bank, syarikat insurans dan wadah media sosial, tidak boleh menolak perkhidmatan kepada pengguna yang enggan membenarkan data mereka digunakan bagi latihan AI.

PDPC turut mengeluarkan garis panduan sukarela yang menggesa penyedia bot sembang (chatbot) AI mendedahkan keupayaan, batasan, kebolehpercayaan dan langkah keselamatan sistem mereka.

Chatbot yang dimaksudkan merangkumi chatbot serba guna daripada syarikat AI utama serta pembantu khusus yang ditawarkan oleh bank, syarikat penerbangan, syarikat insurans dan peruncit.

Cik Teo berkata ramai pengguna masih tidak memahami batasan chatbot atau cara data mereka digunakan kerana maklumat tersebut sering berselerak dalam syarat perkhidmatan, notis privasi dan dokumen lain, serta sering terlalu ringkas atau teknikal bagi pengguna biasa.

Sehubungan itu, garis panduan menyarankan penggunaan kad maklumat chatbot, seumpama label ubat, yang menghimpunkan maklumat penting dalam satu tempat seperti halaman maklumat khas atau dokumen pendedahan.

Menurut Cik Teo, seperti label ubat yang hanya memaparkan maklumat penting, kad maklumat chatbot menerangkan dalam bahasa mudah tujuan chatbot, perkara yang tidak sesuai dilakukan, cara data dikendalikan serta saluran untuk melaporkan isu.

Google, Meta, DBS Bank, OCBC Bank, Singapore Airlines dan Synapxe akan memperkenalkan versi kad maklumat chatbot masing-masing dalam tempoh 12 bulan akan datang.

Cik Teo berkata Google akan menghimpunkan maklumat penting mengenai chatbot AI utamanya, Gemini, manakala Meta akan menyediakan maklumat yang jelas dan mudah difahami mengenai produk berasaskan AI syarikat itu.

Agensi sektor awam seperti Lembaga Perpustakaan Negara (NLB) dan Lembaga Penggalakan Kesihatan (HPB) juga akan menerima garis panduan tersebut.

Cik Teo berkata syarikat-syarikat itu menjadi peneraju dalam tadbir urus data dan AI, dan berharap lebih banyak organisasi akan mengikut jejak mereka.

Persidangan perlindungan data itu berlangsung dari 20 hingga 24 Julai di Pusat Ekspo dan Konvensyen Marina Bay Sands.