Isyarat tegas Indonesia sebagai negara pertama sekat Grok susulan kandungan lucah

JAKARTA: Keputusan pemerintah Indonesia untuk menyekat sementara Grok, sebuah sistem kecerdasan buatan (AI) yang beroperasi di platform X (dahulunya Twitter), menandakan peralihan penting dalam pendekatan negara itu terhadap tadbir urus teknologi digital.

Langkah yang diumumkan oleh Menteri Komunikasi, Informasi dan Hal Ehwal Digital, Cik Meutya Hafid, pada 10 Januari lalu bukan sekadar tindakan pentadbiran biasa, tetapi mencerminkan kebimbangan mendalam terhadap penyalahgunaan AI dalam menghasilkan kandungan pornografi palsu tanpa persetujuan, khususnya melibatkan wanita dan kanak-kanak.

Indonesia, yang mempunyai pangkalan pengguna Internet keempat terbesar di dunia, menjadi negara pertama yang mengharamkan akses kepada platform AI Grok berhubung deepfake yang bersifat seksual itu.

Sekatan itu dibuat berasaskan kuasa kementerian di bawah Peraturan Menteri No. 5 Tahun 2020 berkaitan Pengendali Sistem Elektronik (PSE), khususnya Perkara 9, yang mewajibkan semua platform digital memastikan sistem mereka tidak mengandungi, memudahkan atau menyebarkan maklumat elektronik yang dilarang.

Dalam kenyataan rasminya, Kementerian Komunikasi dan Digital (Komdigi) menegaskan bahawa amalan deepfake atau pemalsuan mendalam seksual tanpa persetujuan merupakan pencabulan serius terhadap hak asasi manusia, maruah individu dan keselamatan awam di ruang digital.

Isu ini bukan bersifat teori. Sejak beberapa bulan kebelakangan ini, Grok semakin kerap digunakan untuk mengubah imej individu secara digital, termasuk menyingkirkan elemen pakaian, menggantikan imej asal dengan busana menjolok mata atau memanipulasi subjek ke dalam gambaran berunsur seksual.

Kandungan tersebut kemudian tersebar secara terbuka di garis masa X, sering kali tanpa pengetahuan atau kebenaran individu yang menjadi mangsa.

Dalam ekosistem media sosial yang bersifat tular, kerosakan terhadap maruah dan kesihatan mental mangsa berlaku serta-merta dan sukar dipulihkan.

Dalam konteks ini, Grok dilihat memperluas dan mempercepatkan bentuk keganasan digital, satu fenomena yang masih belum dilengkapi dengan mekanisme perlindungan yang benar-benar berkesan.

Pilihan pengguna untuk mempertahankan diri amat terhad, sama ada dengan melaporkan kandungan kepada X atau cuba mengarahkan Grok agar tidak menghasilkan imej tertentu.

Secara realistik, sesiapa sahaja berpotensi menjadi mangsa.

Tekanan antarabangsa, gagal kawalan kendiri

Tekanan terhadap X dan pembangun Grok, xAI, semakin meningkat.

Sebagai langkah kecemasan, mereka mengehadkan fungsi penjanaan dan penyuntingan imej kepada pelanggan berbayar sahaja.

Namun, langkah itu dilihat lebih bersifat reaktif berbanding penyelesaian struktur.

Menurut data platform analitik Socindex, antara 1 Ogos 2025 hingga 13 Januari 2026, kandungan berbahasa Inggeris paling tular berkaitan Grok di X termasuk gesaan supaya pemilik dan pengerusi platform media sosial X, Encik Elon Musk, campur tangan menghentikan imej seksual seorang pelakon kanak-kanak dalam siri popular Stranger Things 5.

Hakikat bahawa isu ini menjadi kandungan paling tular menunjukkan tahap kebimbangan awam yang serius terhadap penyalahgunaan AI.

Fenomena ini tidak terhad kepada Indonesia. Malaysia turut menyekat Grok manakala tekanan kawal selia semakin meningkat daripada badan pengawal selia komunikasi di United Kingdom, Ofcom; Suruhanjaya Eropah serta pihak berkuasa di India.

Ofcom malah mempertimbangkan untuk mengklasifikasikan kandungan deepfake seksual melibatkan kanak-kanak sebagai bahan penderaan seksual kanak-kanak yang membawa implikasi undang-undang yang serius.

Suruhanjaya Eropah pula mengarahkan X menyimpan semua dokumen berkaitan pembangunan Grok bagi menilai sama ada sistem itu wajar dibenarkan beroperasi di Kesatuan Eropah (EU).

Tindakan ini memaksa bahagian keselamatan Grok memadam kandungan deepfake seksual dan menggantung akaun yang terlibat, satu pengakuan tidak langsung bahawa mekanisme kawalan awal gagal.

Di India, kesan sosialnya lebih jelas.

Beberapa wanita melaporkan imej swafoto sopan mereka diubah menjadi imej seksual.

Seorang mangsa, Cik Ruchi Kokcha, berkata gambarnya sempena Tahun Baru 2026 diubah oleh Grok menjadi imej berbikini, tanpa persetujuan.

Kes-kes seperti ini memperlihatkan bagaimana AI menurunkan kos penghasilan kandungan berbahaya, sekali gus memperluas skala penderaan.

Data daripada tapak penyelidikan AI Genevieve menunjukkan bahawa dalam tempoh 24 jam sahaja, Grok menghasilkan sekitar 6,700 imej sejam yang dikenal pasti sebagai bersifat seksual atau menanggalkan pakaian – 85 kali ganda lebih tinggi berbanding lima platform AI serupa digabungkan.

Angka itu menimbulkan persoalan sama ada masalah Grok sekadar isu penyalahgunaan pengguna atau berpunca daripada reka bentuk dan falsafah sistem itu sendiri.

Sejak dilancarkan oleh xAI pada November 2023, Grok berkembang pesat daripada Grok-1 kepada Grok 4.1 pada November 2025, disokong oleh superkomputer Colossus yang menggunakan lebih 200,000 unit pemprosesan grafik (GPU).

Secara teori, Grok dipasarkan sebagai AI berkeupayaan penaakulan mendalam setaraf falsafah.

Namun dari awal, Grok sering mempamerkan tingkah laku ofensif, kontroversi dan provokatif, mencerminkan nilai peribadi penciptanya lebih daripada norma etika sejagat.

Insiden terdahulu, termasuk kenyataan antisemitik dan rujukan ekstrem, telah mengukuhkan persepsi bahawa Grok bermasalah dari terasnya.

Walaupun xAI kemudian mengubah arahan sistem, kerosakan terhadap kepercayaan awam telah pun berlaku.

Respons Indonesia: Pantas tetapi reaktif

Dalam landskap global yang sering lambat bertindak, respons Komdigi dianggap pantas dan tegas.

Sekatan terhadap Grok dilihat sebagai pendirian jelas dalam menyebelahi mangsa keganasan seksual digital, serta amaran kepada platform global yang gagal mengawal produk mereka.

Namun, tindakan ini juga menonjolkan sifat reaktif tadbir urus sedia ada.

Rangka kerja AI Indonesia sebenarnya telah digariskan melalui Garis Panduan Etika AI Nasional dan Peta Jalan Pembangunan AI Indonesia yang dibangunkan Komdigi dan Agensi Penyelidikan dan Inovasi Nasional (Brin) Indonesia.

Empat teras utama – etika dan dasar, pembangunan bakat, infrastruktur dan data, serta inovasi industri meletakkan etika sebagai asas.

Populariti Grok di Indonesia pula mendedahkan paradoks.

Sejak menjadi percuma pada Ogos 2025, Grok disebut dalam hampir 250,000 hantaran berbahasa Indonesia di X, dengan lebih 460,000 interaksi.

Analisis bot menunjukkan lebih 86 peratus komen datang daripada pengguna sebenar, menandakan integrasi mendalam dalam perbualan harian.

Namun, kandungan paling popular juga mencerminkan keletihan dan kegusaran pengguna terhadap Grok.

Menurut penyelidik undang-undang transnasional, Encik AD Agung Sulistyo, sekatan terhadap Grok tidak wajar dilihat sekadar sebagai tindakan penapisan.

Sebaliknya, langkah itu mencerminkan ketidakmampuan rangka undang-undang sedia ada untuk bergerak seiring dengan teknologi digital yang beroperasi tanpa mengenal sempadan negara.

“Keganasan digital bukan lagi hipotesis. Ia realiti harian yang dihadapi wanita, kanak-kanak dan kumpulan rentan,” katanya.

Beliau menegaskan bahawa walaupun kebebasan bersuara penting, ia tidak boleh digunakan untuk membenarkan tingkah laku yang mencabul maruah manusia.

Masalah asas ini bersifat global. Undang-undang masih berlandaskan sempadan negara, sedangkan sistem AI boleh dibangunkan di satu negara, dihoskan di negara lain, dan menyebabkan kemudaratan kepada individu di banyak negara pada masa yang sama.

Dalam keadaan sebegini, tanggungjawab undang-undang menjadi tidak jelas, dan mangsa sering berdepan kesukaran untuk mendapatkan perlindungan atau pemulihan yang sewajarnya.

Pakar berpendapat bahawa larangan semata-mata tidak mencukupi.

Dunia memerlukan satu rejim akauntabiliti algoritma merentas sempadan yang jelas, berasaskan penilaian risiko, mengenakan liabiliti ketat terhadap sistem berisiko tinggi, serta mewajibkan ketelusan dan proses audit bagi memastikan teknologi AI bertanggungjawab dan tidak mencetuskan kemudaratan.

Pendekatan ini sejajar dengan Akta AI Kesatuan Eropah, Prinsip AI Pertubuhan Kerjasama Ekonomi dan Pembangunan (OECD) dan saranan Warisan Dunia Pertubuhan Pendidikan, Saintifik dan Kebudayaan Bangsa-Bangsa Bersatu (Unesco) yang menekankan etika dari peringkat reka bentuk.

Bagi Indonesia, krisis Grok membuka peluang strategik yang penting.

Daripada sekadar mengikut perkembangan global, Indonesia berpotensi muncul sebagai perintis di peringkat Asean dan antarabangsa dalam membentuk norma tadbir urus AI yang mengimbangi keperluan inovasi teknologi dengan perlindungan maruah dan keselamatan manusia. – Agensi berita.