“Fitnah dah makin berleluasa”

Usahawan selebriti dan pempengaruh media sosial dari Malaysia, Khairul Aming, memberi amaran kepada orang ramai supaya tidak terpedaya dengan satu video palsu yang menampilkan wajah serta suaranya yang mendakwa gudangnya ditimpa banjir dan beliau mahu menjual kuali untuk menampung kos bagi memperbaikinya.

Dalam satu kiriman di Instagram, Khairul, 31 tahun, mengingatkan orang ramai supaya berhati-hati dan tidak mudah tertipu dengan scammer yang menggunakan teknologi kecerdasan buatan atau AI, untuk mengeluarkan suara yang persis suaranya sendiri dengan tujuan memperdaya orang ramai untuk membeli kuali tersebut.

“Jadi suara yang anda dengar tadi bukan suara Khairul Aming itulah Ai yang scammer dah guna untuk tipu orang ramai.

“(Mereka guna) untuk jual periuk lah, Apple Watch lah, jual blender lah, macam-macam lah,” ujarnya dalam rakaman seminit itu.

Beliau berkata perkara itu “merisaukan” dan sudah mencecah ke tahap “luar kawalan”.

Dalam kiriman di Instagram itu, Khairul menunjukkan video palsu tersebut yang menunjukkan wajahnya ditempel di atas latar belakang satu rakaman menunjukkan sebuah gudang ditimpa banjir.

Dalam video palsu itu, versi palsu Khairul itu memberitahu pengguna bahawa paip air utama gudangnya bocor hingga menyebabkan kotak pembungkusan stok kualiya rosak dan beliau ingin menjual kuali dengan harga potongan demi menampung kos memperbaiki kemudahan tersebut.

“Saya ingin mengingatkan orang ramai supaya berhati-hati kerana fitnah sudah makin berleluasa serta AI ini sudah disalah guna. Jangan mudah terpercaya,” kata Khairul lagi kepada pengikutnya.

Terdahulu, beliau juga memberi amaran kepada warga net bahawa terdapat video palsu yang menggunakan teknologi AI yang dikenali sebagai ‘deepfake’ itu melibatkan beliau membuat promosi bagi penjualan Apple Watch dan lain-lain produk.

Artis-artis lain seperti, penyanyi Datuk Siti Nurhaliza dan pelakon Aaron Aziz juga masing-masing telah memberi amaran kepada orang ramai dalam beberapa kejadian sebelum ini bahawa terdapat video palsu yang menggunakan teknologi berkenaan untuk meniru suara mereka bagi penjualan produk-produk tertentu.

Khairul turut menegaskan bahawa beliau tidak menjual apa apa barangan selain produknya sendiri iaitu Sambal Nyet dan Dendeng Nyet.

“Saya tidak ada menjual apa-apa barang selain Sambal Nyet dan Dendeng Nyet.. itu sahaja. Kalau barang-barang Apple, gajet dan sebagainya, saya tidak ada jual.

“Kakak-kakak, makcik-makcik, abang-abang di luar sana yang tengok, tolong berhati-hati. Di Facebook sudah semakin berleluasa benda ini. Fikir, siasat, teliti baik-baik sebelum membeli sesuatu benda,” katanya.

Susulan kejadian itu, Menteri Komunikasi, Encik Fahmi Fadzil mahukan platform media sosial supaya meletakkan notis ‘Kecerdasan Buatan (AI)’ dalam setiap kandungan AI yang dimuat naik di platform masing-masing bagi mengelak berlaku insiden tidak diingini, lapor media tempatan.

Beliau berkata, semua platform media sosial wajib bertanggungjawab terhadap apa yang berlaku di platform mereka.

“Sekiranya sesuatu bahan itu telah dihasilkan melalui Generatif AI, seharusnya platform-platform ini meletakkan tanda dengan notis ‘Generated by Artificial Intelligence’,” katanya.