Pihak berkuasa S’pura gesa kawalan ketat terhadap kebebasan bertindak ejen AI dan laluan kepada akaun peribadi

Pengguna ejen kecerdasan buatan (AI) peribadi dinasihatkan supaya menghubungkan hanya aplikasi diperlukan, membataskan laluan kepada akaun sensitif dan mewajibkan kebenaran sebelum ejen memadam atau berkongsi fail.

Langkah itu digariskan dalam nasihat Agensi Keselamatan Siber Singapura (CSA), Agensi Teknologi Pemerintah (GovTech) dan Penguasa Pembangunan Infokom Media (IMDA) pada 6 November.

Berbeza daripada chatbot yang menjawab soalan, ejen AI boleh melayari laman web, mengurus e-mel dan membuat tempahan bagi pihak pengguna.

Nasihat itu menyusuli pelancaran Meta Muse di Singapura, yang diperkenalkan sebagai ejen AI peribadi pertama dunia untuk pengguna.

Ejen itu boleh dihubungkan dengan Gmail, Google Calendar serta wadah beli-belah dan pelancongan.

Namun, kemudahan tersebut membawa risiko privasi dan keselamatan, termasuk pendedahan maklumat sensitif serta kesilapan dan tindakan di luar kehendak pengguna.

Sesetengah ejen terus beroperasi di sebalik tabir dan boleh diperdaya melalui laman web atau mesej berniat jahat.

“Ejen AI boleh menjadi sangat berguna, tetapi tidak boleh diberikan kepercayaan dan laluan langsung seperti pembantu manusia,” menurut nasihat itu.

Pengguna harus membataskan kebenaran laluan, mengawal tindakan penting dan memahami cara membatalkan laluan kepada akaun.

Pengguna juga bertanggungjawab terhadap tindakan ejen, termasuk kemungkinan dikenakan tindakan undang-undang.

Nasihat itu menggariskan lima langkah berjaga-jaga.

Pertama, hubungkan aplikasi dan akaun yang diperlukan sahaja serta, jika boleh, hadkan maklumat dalam akaun tersebut yang boleh dilihat atau digunakan oleh ejen AI.

Mulakan dengan akaun e-mel kedua untuk memahami cara ejen berfungsi.

Elakkan memberi ejen AI laluan kepada akaun perbankan, pemerintah dan kesihatan. Dapatkan persetujuan majikan sebelum menghubungkan akaun kerja.

Jangan kongsi butiran kad kredit, kata laluan atau laluan sekali guna (OTP), termasuk melalui dokumen dan mesej. Gunakan e-mel berasingan untuk menerima OTP akaun sensitif.

Kedua, kekalkan kawalan terhadap tindakan penting dengan memberikan kebenaran penggunaan terhad atau membenarkan ejen membaca maklumat sahaja, jika boleh.

Pengguna harus memilih kelulusan bagi setiap tindakan ejen, seperti menghantar mesej, memadam fail atau membuat hantaran umum, serta menyemak dengan teliti butiran urus niaga berisiko tinggi.

Jangan bergantung pada arahan perbualan semata-mata. Tetapkan kebenaran melalui aplikasi, batalkan laluan yang tidak diperlukan dan semak rekod kegiatan.

Ketiga, pengguna harus memahami cara maklumat mereka digunakan dan disimpan.

Maklumat yang dikongsi secara langsung atau diperoleh melalui akaun yang dihubungkan mungkin diproses dan disimpan oleh pengendali ejen AI serta rakan kongsinya. 

Pengguna harus menyemak maklumat yang dikumpulkan, pihak yang menerimanya, tempoh penyimpanan serta cara maklumat tersebut dikendalikan selepas sambungan akaun diputuskan.

Pengguna juga harus menyemak sama ada maklumat mereka digunakan untuk melatih model AI atau menyesuaikan iklan mengikut minat pengguna, serta melaraskan tetapan yang tersedia.

“Banyak ejen AI peribadi mempunyai ingatan yang berkekalan dan boleh membina profil anda serta kenalan berdasarkan fail dan pergaulan anda,” menurut nasihat itu.

Pengguna harus memadam maklumat tidak tepat atau yang tidak mahu terus disimpan atau digunakan.

Keempat, awasi arahan tersembunyi dalam laman web, e-mel, dokumen dan imej yang boleh memperdaya ejen membuat pembayaran atau mendedahkan data.

Pantau aktiviti ejen, gunakan pengesahan kukuh dan sumber rasmi. Jika berlaku masalah, hentikan ejen, putuskan sambungan akaun, semak perubahan mencurigakan, simpan rekod dan maklumkan pihak terjejas.

Akhir sekali, pengguna harus mengambil kira orang lain yang maklumatnya mungkin dilihat atau digunakan ejen AI.

E-mel, mesej dan fail mungkin mengandungi maklumat keluarga, rakan dan rakan sekerja. Pengguna harus memastikan mereka selesa jika ejen membaca atau berkongsi maklumat tersebut, serta memadam ingatan yang tidak diperlukan mengenai orang lain.

Pengguna juga harus menyatakan jika e-mel atau mesej dihantar oleh ejen AI dan tidak mengarahkannya memintas sekatan kandungan berbayar, syarat log masuk atau sekatan laluan lain.

“Hormati maklumat orang lain. Elakkan berkongsi maklumat sensitif mengenai mereka kecuali jika perlu,” menurut nasihat itu.