Indonesia Jadi Negara Pertama Blokir AI Grok di Aplikasi X

Indonesia resmi menjadi negara pertama di dunia yang memblokir AI Grok, fitur kecerdasan buatan milik platform media sosial (medsos) X. AI Grok diblokir lantaran pemerintah menemukan praktik deep fake seksual non-konsensual yang dianggap sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital.

Melalui situs resmi Kementerian Komunikasi dan Digital (Komdigi), pemerintah menegaskan bahwa pemutusan akses AI Grok dilakukan sebagai langkah preventif untuk mencegah potensi penyebaran konten berbahaya. AI Grok dinilai dapat memunculkan konten yang tidak ramah anak dan berpotensi mengancam keselamatan perempuan di ruang siber.

Pemerintah juga menekankan bahwa kebijakan ini bukan untuk menghambat inovasi teknologi. Langkah tersebut diambil justru untuk memastikan pemanfaatan kecerdasan buatan tetap berjalan sesuai norma hukum dan nilai sosial yang berlaku.

Dengan kebijakan ini, Komdigi menegaskan komitmen Indonesia dalam menciptakan ekosistem digital yang aman, sehat, dan melindungi kelompok rentan, khususnya perempuan serta anak-anak. Komdigi juga memastikan akan terus melakukan pengawasan dan evaluasi atas komitmen dari pihak platform X, demi menjamin perlindungan ruang digital secara nyata serta berkelanjutan.
 

Diikuti Malaysia

Pemerintah Malaysia juga resmi menangguhkan akses terhadap chatbot kecerdasan buatan (AI) Grok yang dikembangkan perusahaan milik miliarder asal Amerika Serikat (AS) Elon Musk. Keputusan tersebut diambil pada Minggu, 11 Januari 2026, setelah regulator teknologi setempat menemukan penyalahgunaan layanan untuk menghasilkan konten pornografi berbasis AI.

Langkah ini menyusul gelombang kritik global terhadap fitur pembuatan gambar Grok yang dinilai memungkinkan manipulasi foto perempuan dan anak-anak menjadi konten seksual hanya melalui perintah teks sederhana. Sebelumnya, Indonesia dilaporkan menjadi negara pertama di dunia yang memblokir total akses terhadap layanan tersebut pada Sabtu lalu.

Komisi Komunikasi dan Multimedia Malaysia MCMC menyatakan telah menginstruksikan pembatasan akses sementara terhadap Grok dengan efek segera. Berdasarkan uji coba di Kuala Lumpur, layanan tersebut dilaporkan tidak lagi merespons perintah pengguna.

“Tindakan ini diambil menyusul penyalahgunaan Grok secara berulang untuk menghasilkan gambar manipulasi yang cabul, eksplisit secara seksual, tidak senonoh, dan sangat menyinggung tanpa konsensus,” tulis MCMC dalam pernyataan resminya, seperti dikutip Channel News Asia, Senin, 12 Januari 2026.

Sebelumnya, sejumlah pejabat Uni Eropa serta aktivis teknologi juga menyuarakan kecaman terhadap Grok. Meski pengembang telah membatasi fitur pembuatan gambar hanya bagi pelanggan berbayar, kebijakan tersebut dinilai belum mampu mengatasi kekhawatiran terkait maraknya deepfake seksual yang mengancam privasi dan keamanan publik.