Disalah Guna Untuk Jana Kandungan Lucah, SKMM Sekat Sementara Akses Grok Di Malaysia

_{Ikuti saluran WhatsApp BuzzKini untuk berita, informasi dan topik trending terbaharu.}

Platform media sosial X, yang dahulunya dikenali sebagai Twitter, telah membangunkan chatbot kecerdasan buatan (AI), Grok.

Pada Ogos lalu, Grok melancarkan penjana imej dikenali sebagai Grok Imagine, yang membolehkan pengguna untuk menjana imej AI dan video pendek.

Menerusi ‘Spicy Mode’, pengguna boleh menghasilkan kandungan ‘Not Safe for Work’ (NSFW) termasuklah imej separa telanjang daripada gambar yang dikongsi.

Baca Artikel Berkaitan: “Aku AI Je Bro” – Pengguna X Cuba Guna Grok Untuk Kecam Wanita Kena ‘Backfire’, Siap Kena Perli

MCMC Sekat Sementara Akses Kepada Grok Di Malaysia

Terbaharu, Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah menyekat akses kepada Grok buat pengguna di Malaysia untuk sementara waktu mulai hari ini (11 Januari).

Dalam satu kenyataan, MCMC berkata tindakan itu berkuat kuasa susulan penyalahgunaan Grok bagi menjana kandungan lucah, kandungan seksual eksplisit, kandungan tidak senonoh yang jelik melampau serta manipulasi imej tanpa persetujuan secara berulang kali, termasuklah kandungan yang melibatkan wanita dan kanak-kanak.

Kata MCMC, tindakan itu diambil walaupun beberapa sesi libat urus kawal selia telah dikeluarkan kepada X Corp. dan xAI LLC sebelum ini.

Langkah ini menjadikan Malaysia negara yang kedua selepas Indonesia yang menyekat akses rakyatnya terhadap Grok mulai semalam (10 Januari).

Notis Telah Dikeluarkan Kepada X Corp. & xAI LLC

Tambahnya lagi, notis telah dikeluarkan kepada X Corp. dan xAI LLC pada 3 dan 8 Januari yang merangkumi beberapa tuntutan termasuk pelaksanaan langkah perlindungan teknikal dan penyelia kandungan yang berkesan untuk mencegah kandungan janaan AI yang mungkin melanggar undang-undang Malaysia, termasuk Seksyen 233 Akta Komunikasi dan Multimedia 1998.

“Walau bagaimanapun, maklum balas yang dikemukakan oleh X Corp. pada 7 Januari 2026 dan 9 Januari 2026 hanya memberi tumpuan utama kepada mekanisme pelaporan yang dimulakan oleh pengguna serta gagal menangani risiko sedia ada yang wujud hasil daripada reka bentuk dan pengoperasian alat AI tersebut,” katanya dalam kenyataan.

Pun begitu, MCMC berkata perkara tersebut tidak memadai untuk mencegah kemudaratan serta memastikan pematuhan kepada undang-undang.

“Sehubungan itu, sekatan ini dikenakan sebagai langkah pencegahan yang wajar sementara proses perundangan dan kawal selia masih berjalan,” ujarnya.

Katanya, sekatan akses ini akan berlanjutan sehinggalah langkah perlindungan yang berkesan dilaksanakan, khususnya bagi mencegah kandungan yang melibatkan wanita dan kanak-kanak.

Laporkan Kandungan Memudaratkan Kepada MCMC

Dalam pada itu, MCMC berkata pihaknya kekal terbuka untuk mengadakan sesi libat urus dengan X Corp. dan xAI LLC, namun ia haruslah tertakluk kepada pematuhan yang dapat dibuktikan terhadap undang-undang Malaysia.

Orang awam turut digesa agar membuat laporan terhadap kandungan dalam talian yang memudaratkan kepada MCMC dengan segera, serta laporan polis jika perlu.

Sekitar awal Januari, media antarabangsa melaporkan seorang pemuzik dari Brazil, Julie Yukari, mendedahkan bahawa Grok telah menjana imejnya hampir tanpa pakaian selepas ada yang meminta aplikasi chatbot itu berbuat demikian.

Perkara itu bermula selepas dia memuat naik satu foto memperlihatkan dirinya yang memakai dress berwarna merah sedang duduk di atas katil.

Dia menyedari perkara itu selepas terlihat notifikasi permintaan berkenaan dari salah satu respon terhadap foto asal yang dimuat naiknya, lapor Reuters.

Apa yang mengejutkan, Grok kemudiannya menjana imejnya dalam keadaan hampir telanjang sehingga foto tersebut tular di aplikasi X.