Freya JKT48 Jadi Korban, Cerita Runut Polemik Penyalahgunaan AI Grok

Jakarta: Raden Rara Freyanasifa Jayawardana atau yang dikenal sebagai Freya JKT48, melaporkan dugaan penyalahgunaan teknologi kecerdasan buatan atau Artificial Intelligence (AI) Grok ke pihak kepolisian.

Laporan tersebut diajukan ke Polres Metro Jakarta Selatan setelah Freya menemukan sejumlah konten manipulatif yang menggunakan foto dirinya dan diedit menjadi tidak pantas melalui teknologi AI.

Kasus ini kembali memicu perhatian publik terhadap penyalahgunaan teknologi AI, khususnya Grok, yang sebelumnya juga sempat menjadi sorotan karena digunakan untuk membuat konten pornografi atau manipulasi visual terhadap foto orang lain.

Foto Freya Dimanipulasi AI Jadi Konten Tak Senonoh

Freya melaporkan dugaan manipulasi data elektronik setelah menemukan unggahan di media sosial yang mengedit fotonya menggunakan teknologi AI.

Kasi Humas Polres Metro Jakarta Selatan AKBP Murodih mengatakan laporan tersebut tercatat dengan nomor LP/B/519/II/2026/SPKT/POLRES METRO JAKSEL/POLDA METRO JAYA tertanggal 5 Februari 2026.

Menurut polisi, kasus ini bermula ketika Freya melihat sebuah akun anonim yang mengunggah foto dirinya yang telah dimodifikasi menggunakan AI. Dalam gambar tersebut, pakaian yang dikenakan Freya diganti sehingga terlihat tidak pantas.

Selain itu, ditemukan pula sejumlah unggahan lain yang berisi perintah kepada AI untuk memanipulasi foto Freya, seperti mengganti pakaian atau membuat pose tertentu yang berkonotasi seksual.

Merasa dirugikan dan tidak nyaman dengan konten tersebut, Freya akhirnya memutuskan untuk melaporkan kasus tersebut kepada pihak kepolisian agar dapat diproses secara hukum. 

Freya diketahui melaporkan kejadian itu dengan rentang waktu sekitar 2022 hingga 2025 dengan semua bukti-bukti sudah diberikan kepada polisi.
 

Polisi Mulai Selidiki Kasus

Setelah menerima laporan tersebut, pihak kepolisian langsung melakukan penyelidikan untuk mengumpulkan bukti-bukti terkait dugaan manipulasi foto menggunakan AI.

Polisi juga menjadwalkan pemeriksaan terhadap Freya pada hari ini, Kamis, 12 Maret 2026 sebagai pelapor guna memperjelas kronologi kejadian serta dampak yang dialaminya akibat penyalahgunaan teknologi tersebut.

Selain Freya, polisi akan memanggil sejumlah saksi lainnya. Ada tiga orang lain yakni Rino Sutopo, Vania Eka Putri, dan Syari Nabila yang akan diminta klarifikasi 

Kasus ini diduga berkaitan dengan pelanggaran Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) terkait manipulasi data melalui media elektronik.

Polemik Grok dan Konten AI Mesum

Ilustrasi. Dok. Antara

Kasus yang dialami Freya bukan yang pertama kali terjadi. Dalam beberapa waktu terakhir, penggunaan Grok ramai diperbincangkan karena fitur AI-nya dinilai relatif mudah dimanfaatkan untuk membuat gambar manipulatif atau konten pornografi berbasis foto orang lain.

Sejumlah pengguna media sosial diketahui menggunakan AI tersebut untuk mengubah foto publik figur maupun orang biasa menjadi gambar tak senonoh atau video manipulatif (deepfake). Fenomena ini memicu kekhawatiran tentang penyalahgunaan teknologi AI generatif.

AI Grok sendiri merupakan chatbot yang dikembangkan oleh perusahaan xAI, perusahaan kecerdasan buatan milik Elon Musk, dan terintegrasi dengan platform media sosial X.
 

Komdigi Sempat Batasi Penggunaan Grok

Maraknya penyalahgunaan AI untuk membuat konten tidak pantas juga mendorong pemerintah mengambil langkah pengawasan.

Melalui Kementerian Komunikasi dan Digital Republik Indonesia (Komdigi), pemerintah sebelumnya juga sempat melakukan pembatasan akses AI Grok  sebagai langkah preventif untuk mencegah potensi penyebaran konten berbahaya. 

AI Grok dinilai dapat memunculkan konten yang tidak ramah anak dan berpotensi mengancam keselamatan perempuan di ruang siber.

Langkah pembatasan atau pengawasan terhadap fitur tersebut dilakukan sebagai upaya melindungi masyarakat dari penyebaran konten manipulatif, pornografi digital, hingga pelanggaran privasi berbasis AI.