ST Engineering lancar sofwe kesan ‘deepfake’, atasi maklumat palsu AI

Sebuah sofwe mengesan pemalsuan atau ‘deepfake’ telah dikeluarkan oleh syarikat ST Engineering ke pasaran sebagai sebahagian daripada usaha Singapura untuk menangani risiko penyebaran maklumat salah yang dijana oleh kecerdasan buatan (AI) menjelang Pilihan Raya Umum (GE).

Dipanggil Einstein.AI, sofwe yang dicipta di Singapura itu telah dilancarkan pada 3 September di Persidangan InnoTech yang diadakan di Marina Bay Sands, sebagai sebahagian daripada beberapa alat pengesanan ‘deepfake’ yang boleh digunakan syarikat.

‘Deepfake’ adalah satu teknik pemalsuan digital yang digunakan dengan mengubah paras rupa seseorang pada gambar atau video menggunakan gambar asli melalui kaedah tindan wajah.

Naib presiden di ST Engineering, Encik Tan Boon Leong, yang terlibat dalam penciptaan Einstein.AI, berkata sofwe tersebut boleh mengesan sebarang ciri-ciri aneh atau tidak konsisten di dalam video yang dimuat naik apabila ia digunakan oleh bank, platform pelaburan, syarikat media atau pelanggan lain.

Antara ciri-ciri aneh atau tidak konsisten yang boleh dikesan oleh sofwe tersebut termasuk pergerakan kening atau bibir aneh dan frekuensi audio yang berkemungkinan dijana oleh komputer.

“Ini menjadi semakin sukar untuk dilihat oleh orang ramai dengan mata mereka sendiri,” kata Encik Tan.

Setelah dikesan, sofwe tersebut akan menghasilkan laporan yang merangkumi skor atau markah kemungkinan ‘deepfake’, transkrip dan rumusan bagi audio video tersebut.

Ia juga akan mengeluarkan senarai kandungan berita berkaitan yang ditemui dalam talian untuk membolehkan pengguna media sosial dan pelabur menilai sama ada kandungan tersebut boleh dipercayai.

Menteri Negara Kanan di Pejabat Perdana Menteri, Encik Desmond Tan, berkata dalam ucapan perasmiannya bahawa sofwe seperti Einstein.AI merupakan langkah penting untuk memerangi ‘deepfake’, yang melonjak kira-kira 500 peratus pada 2023 berbanding tahun sebelumnya.

‘Deepfake’ juga menimbulkan ancaman kepada perusahaan, kata Encik Tan, memetik insiden di Hong Kong, dengan beberapa eksekutif memindahkan kira-kira HK$200 juta ($34 juta) kepada penipu yang menggunakan AI untuk meniru rupa ketua pegawai kewangan mereka untuk meluluskan urus niaga.

“Penipu kini menggunakan alat AI termaju untuk mencipta rakaman suara dan video palsu atau ‘deepfake’ yang boleh memperdaya saudara terdekat dan rakan-rakan sendiri.

“Dengan hanya beberapa gambar daripada media sosial dan klip audio pendek – kadangkala sesingkat detik – penipu boleh mencipta ‘deepfake’ yang amat realistik,” kata Encik Tan.

Pihak berkuasa di seluruh dunia sedang berusaha mengekang penipuan ‘deepfake’ di tengah-tengah kebimbangan bahawa penipu akan menggunakannya untuk mengganggu pilihan raya di banyak negara pada 2024, termasuk di Singapura.

India berdepan dengan ancaman kandungan ‘deepfake’ politik di media sosial semasa pilihan rayanya pada awal 2024, manakala video palsu calon presiden, Cik Kamala Harris dan Encik Donald Trump terus tersebar di media sosial sedang mereka berkempen.

Video palsu pada 2023 yang menunjukkan Menteri Kanan, Encik Lee Hsien Loong, mengulas mengenai hal ehwal global dan Perdana Menteri, Encik Lawrence Wong, mempromosikan dasar pelaburan juga telah muncul dalam talian.

Singapura dijangka mengadakan GE menjelang November 2025. Kebimbangan terhadap ‘deepfake’ telah mendorong pelaburan besar dalam keupayaan pengesanan di sini.

Kementerian Penerangan dan Pembangunan Digital (MDDI) pada Mei telah mengumumkan pelaburan $50 juta dalam tempoh lima tahun ke dalam Pusat Teknologi Lanjutan dalam Keselamatan Dalam Talian (Catos) baru, yang akan memberi tumpuan kepada membina alat-alat untuk mengesan maklumat salah dan palsu.

Secara berasingan, pembangun di Agensi bagi Sains, Teknologi dan Penyelidikan (A*star) pada akhir 2023 telah mengumumkan ia sedang membangunkan model pengesanan palsu yang dipanggil The Sleuth, yang boleh mengesan kandungan sintetik pada platform media, aplikasi pemesejan dan pelayar web.

Agensi Sains dan Teknologi Home Team (HTX) pada April juga mempamerkan alat pengesanan serupa yang dipanggil AlchemiX, yang boleh membandingkan rakaman video palsu yang disyaki dengan rakaman suara sebenar pembaca.