STOCKWATCH.ID (JAKARTA) – Pemerintah Indonesia dan Malaysia resmi memblokir akses ke chatbot kecerdasan buatan (AI) milik Elon Musk bernama Grok. Langkah tegas ini diambil karena Grok mampu memproduksi konten deepfake seksual yang eksplisit.
Mengutip BBC, Grok merupakan alat bantu pada platform X milik Elon Musk. Fitur ini memungkinkan pengguna membuat berbagai gambar. Namun, belakangan fitur ini disalahgunakan untuk mengedit foto orang asli agar terlihat mengenakan pakaian terbuka atau tanpa busana.
Pemerintah kedua negara Asia Tenggara tersebut menyatakan kekhawatiran besar. Grok dinilai bisa memproduksi gambar pornografi yang melibatkan perempuan dan anak-anak tanpa persetujuan. Indonesia dan Malaysia menjadi negara pertama di dunia yang melarang alat AI tersebut.
Kementerian Komunikasi dan Digital Indonesia serta kementerian terkait di Malaysia mengumumkan langkah ini dalam pernyataan terpisah pada akhir pekan lalu. Otoritas Malaysia mengaku sudah mengirimkan pemberitahuan kepada pihak X sejak awal tahun ini.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) meminta X melakukan langkah pengamanan lebih ketat. Hal ini menyusul temuan penyalahgunaan berulang dari fitur Grok untuk membuat konten berbahaya.
Namun, pihak X dianggap gagal menangani risiko yang melekat pada desain platformnya. Perusahaan milik Elon Musk itu dinilai hanya fokus pada proses pelaporan pengguna saja. MCMC menegaskan Grok akan tetap diblokir sampai ada sistem keamanan yang efektif.
Menteri Komunikasi dan Digital Republik Indonesia, Meutya Hafid, ikut bersuara melalui akun Instagram pribadinya. Ia menegaskan penggunaan Grok untuk konten asusila sangat melanggar aturan.
“Menggunakan Grok untuk memproduksi konten eksplisit secara seksual adalah pelanggaran hak asasi manusia, martabat dan keamanan daring,” ujar Meutya Hafid.
Kementerian Komunikasi dan Digital juga telah meminta klarifikasi dari X mengenai penggunaan Grok. Indonesia memang dikenal sangat ketat terhadap materi pornografi di internet. Platform lain seperti OnlyFans dan Pornhub sudah lebih dulu dilarang di tanah air.
Dampak negatif Grok dirasakan langsung oleh pengguna X di Indonesia. Salah satunya adalah Kirana Ayuningtyas, seorang penyandang kursi roda yang sering berbagi pengalaman harian secara daring.
Seorang asing mengomentari foto Kirana dengan perintah agar Grok menggambarkan dirinya mengenakan bikini. Kirana sudah mencoba mengubah pengaturan privasi dan menghubungi platform X agar gambar tersebut dihapus.
“Sayangnya, tidak ada satu pun yang benar-benar berhasil,” kata Kirana Ayuningtyas. Ia merasa sangat malu karena ketika teman-temannya membantu melaporkan akun tersebut, semakin banyak orang yang melihat foto hasil rekayasa itu.
Kecaman terhadap Grok juga datang dari para pemimpin dunia. Perdana Menteri Inggris, Keir Starmer, menyebut praktik pembuatan gambar seksual ini sangat memalukan dan menjijikkan.
Menteri Teknologi Inggris, Liz Kendall, menyatakan dukungannya kepada regulator Ofcom jika ingin memblokir X di Inggris. Hal ini akan dilakukan jika X gagal mematuhi undang-undang keamanan daring.
Liz Kendall menjelaskan aturan di Inggris mencakup wewenang kuat bagi regulator. Ia menyebut aturan tersebut “termasuk kekuatan untuk memblokir layanan agar tidak dapat diakses di Inggris, jika mereka menolak untuk mematuhi hukum Inggris”.
“jika Ofcom memutuskan untuk menggunakan kekuasaan tersebut, mereka akan mendapatkan dukungan penuh dari kami,” tambah Liz Kendall. Elon Musk sendiri menanggapi hal ini dengan menuding pemerintah Inggris ingin menekan kebebasan berbicara.
