Marak Penyalahgunaan Grok AI, Kemkomdigi Peringatkan Sanksi Pidana

Jakarta: Di tengah pesatnya perkembangan teknologi kecerdasan buatan (artificial intelligence/AI), berbagai inovasi digital bermunculan dan semakin memengaruhi cara masyarakat bermain di sosial media. Salah satu teknologi yang tengah menjadi sorotan adalah Grok AI, asisten AI berbasis chatbot yang dikembangkan oleh xAI, startup milik Elon Musk, dan terintegrasi langsung ke platform media sosial X (Twitter).

Grok AI ramai diperbincangkan warganet di platform X. Sejumlah pengguna diduga memanfaatkan fitur AI tersebut untuk mengedit foto seseorang secara tidak pantas dan bersifat asusila. 

Mirisnya, mayoritas korban dalam kasus ini adalah perempuan. Foto pribadi mereka dimanipulasi menjadi konten yang melanggar norma kesusilaan tanpa persetujuan pemiliknya.

Media sosial X yang bersifat terbuka membuat konten hasil manipulasi tersebut dapat dengan mudah diakses dan menyebar secara cepat, sehingga memperbesar dampak pelanggaran terhadap privasi.

Menanggapi hal tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah serius dengan menindaklanjuti dugaan penyalahgunaan Grok AI. 
 

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.

“Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, yang dikutip Kamis, 8 Januari 2026.

Kemkomdigi menilai, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.

Ia menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.

"Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X," lanjutnya.

Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, ketentuan terkait pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. 

Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan yang berlaku. 

Alexander menambahkan bahwa masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada penegak hukum dan pengaduan kepada Kemkomdigi. 

(Jessica Nur Faddilah)