Malaysia dan Indonesia menyekat X chatbot kerana pemalsuan seksual yang eksplisit

Malaysia dan Indonesia telah menyekat akses kepada chatbot kecerdasan buatan (AI) Elon Musk Grok kerana keupayaannya menghasilkan deepfake yang eksplisit secara seksual.

Grok, alat pada platform X Musk, membolehkan pengguna menjana imej tetapi baru-baru ini telah digunakan untuk mengedit imej orang sebenar untuk ditunjukkan kepada mereka dalam pakaian mendedahkan.

Negara-negara Asia Tenggara berkata Grok boleh digunakan untuk menghasilkan imej lucah dan bukan persetujuan yang melibatkan wanita dan kanak-kanak. Mereka adalah yang pertama di dunia yang mengharamkan alat AI.

Terdapat juga tekanan yang semakin meningkat untuk menyekat Grok di UK, dengan setiausaha teknologinya berkata dia akan menyokong langkah itu, menyebabkan Musk menuduh kerajaan mahu menyekat kebebasan bersuara.

Kementerian komunikasi Malaysia dan Indonesia mengumumkan tindakan mereka terhadap Grok dalam kenyataan berasingan pada hujung minggu.

Suruhanjaya Komunikasi dan Multimedia Malaysia berkata pada hari Ahad bahawa ia mengeluarkan notis kepada X pada awal tahun untuk mendapatkan langkah lebih ketat selepas mendapati “penyalahgunaan berulang” Grok untuk menjana kandungan berbahaya.

Tetapi dalam maklum balasnya, X gagal menangani risiko yang wujud dalam reka bentuk platformnya dan memberi tumpuan terutamanya pada proses pelaporan untuk pengguna, kata pengawal selia.

Ia menambah bahawa Grok akan disekat sehingga perlindungan yang berkesan dilaksanakan dan menggesa orang ramai untuk melaporkan kandungan dalam talian yang berbahaya.

Menggunakan Grok untuk menghasilkan kandungan seksual eksplisit adalah pencabulan hak asasi manusia, maruah dan keselamatan dalam talian, kata Meutya Hafid, menteri komunikasi dan hal ehwal digital Indonesia, dalam catatan di Instagram.

Kementerian juga telah meminta Musk’s X untuk memberikan penjelasan mengenai penggunaan Grok.

Pihak berkuasa Indonesia telah bertindak keras terhadap sumber dalam talian bahan lucah yang lain dalam beberapa tahun kebelakangan ini, dengan platform seperti OnlyFans dan Pornhub telah diharamkan di negara itu.

Pengguna X Indonesia yang menemui gambar dimanipulasi mereka di platform berkata mereka berasa marah kerana perkara ini dibenarkan berlaku.

Kirana Ayuningtyas, pengguna kerusi roda yang menyiarkan dalam talian tentang pengalaman hariannya, mendapati orang yang tidak dikenali telah mengulas gambarnya dengan gesaan meminta Grok menggambarkannya memakai bikini.

Ayuningtyas berkata dia melaraskan tetapan privasinya dan menghubungi platform untuk mendapatkan imej yang dialih keluar menghalang pengguna daripada mengedit fotonya.

“Malangnya, tidak ada yang benar-benar berkesan,” katanya, sambil menambah bahawa sukar untuk mengetahui sama ada seseorang di luar sana memegang imej itu.

Dia meminta rakannya melaporkan akaun yang menerbitkan imej palsunya, tetapi berbuat demikian bermakna lebih ramai orang melihat imej yang diedit itu, yang amat memalukan baginya.

BBC telah menghubungi platform Grok untuk mendapatkan ulasan.

Penggunaan Grok untuk menghasilkan imej berunsur seksual telah dikecam oleh para pemimpin di seluruh dunia, termasuk Perdana Menteri UK Keir Starmer, yang menyebutnya “memalukan” dan “menjijikkan”.

Setiausaha Teknologi negara itu Liz Kendall juga berkata beliau akan menyokong pengawal selia Ofcom jika ia menyekat akses UK ke laman media sosial X Elon Musk kerana gagal mematuhi undang-undang keselamatan dalam talian.

Beliau berkata Akta Keselamatan Dalam Talian UK “termasuk kuasa untuk menyekat perkhidmatan daripada diakses di UK, jika mereka enggan mematuhi undang-undang UK” dan “jika Ofcom memutuskan untuk menggunakan kuasa tersebut mereka akan mendapat sokongan penuh kami”.