Grok Ramai Dipakai Bikin Konten Tak Senonoh, JKT48 Siap Ambil Langkah Hukum

Jakarta: Perbincangan publik terkait penggunaan Kecerdasan Buatan (AI) di media sosial X memanas setelah muncul laporan penyalahgunaan Grok. Fitur kecerdasan buatan yang terintegrasi di platform tersebut banyak digunakan memodifikasi foto sejumlah figur publik menjadi gambar yang tidak pantas.

Salah satu pihak yang menjadi korban adalah JKT48, yang menyatakan telah menerima laporan mengenai konten berbasis AI yang merugikan beberapa anggota.

Kapten JKT48, Freya Jayawardana, mengungkapkan keresahannya atas maraknya foto anggota yang diedit menggunakan Grok. Sejumlah akun memanfaatkan AI tersebut untuk mengubah penampilan anggota menjadi seronoh, bahkan mengandung unsur pornografi, yang dinilai sebagai bentuk pelecehan dan pelanggaran privasi. Freya pun buka suara.

“Stop menyalahgunakan AI, berpikirlah lebih pintar daripada kecerdasan buatan. Tuhan beri kamu hati dan akal untuk berpikir lebih baik dan sehat daripada alat ciptaan manusia,” ujar Freya.
 

Baca Juga: Elon Musk di Puncak Dunia: Kekayaan yang Menembus Rekor dan Sumbernya

 

Manajemen JKT48 Siap Ambil Langkah Hukum

Tak berselang lama, manajemen JKT48 atau JKT48 Operation Team merilis peringatan terbuka yang menegaskan komitmen mereka dalam menjaga keamanan dan kehormatan para anggota.

“JKT48 merupakan rumah bagi para member dan fans untuk tumbuh bersama. Kami berkomitmen penuh untuk menjaga keamanan, kehormatan, dan kenyamanan member dalam menjalankan seluruh aktivitasnya,” tulis JKT48 Operation Team, dikutip Senin, 5 Januari 2026.

Pihak manajemen menyatakan telah menerima sejumlah laporan mengenai penyalahgunaan teknologi AI terhadap beberapa anggota, dan meminta seluruh pihak yang membuat atau menyebarkan konten tersebut untuk segera menghentikan tindakan tersebut dan menghapusnya secara permanen.

JKT48 Operation Team juga memberikan batas waktu 2 x 24 jam bagi para pelaku untuk menghapus konten tersebut. Jika dalam tenggat itu konten masih tersebar, pihak manajemen menyatakan siap mendukung langkah hukum.

“Apabila dalam waktu 2 x 24 jam setelah pengumuman ini diterbitkan kami masih mendapati konten tersebut tersebar, maka guna melindungi member, kami mendukung penuh keputusan member terdampak untuk menempuh jalur hukum. JKT48 Operation Team akan memfasilitasi bantuan dari Penasihat Hukum untuk mendampingi serta mengawal proses hukum ini hingga tuntas,” tulis JKT48 Operation Team, 5 Januari 2026.

Mereka juga menegaskan bahwa pengaduan hukum dapat mencakup berbagai pihak yang terlibat, tidak hanya pembuat konten.

Pihak-pihak yang dimaksud adalah:

• Pembuatan konten pornografi berbasis AI yang menampilkan wajah atau identitas anggota
• Penyebaran, distribusi, maupun promosi konten tersebut
• Komentar atau unggahan yang mendukung, menyebarluaskan, atau mengeksploitasi materi tersebut

Malaysia, India, dan Prancis Tuntut Tanggung Jawab X

Grok dikenal sebagai fitur AI milik Elon Musk yang terintegrasi platform X (dulu Twitter), yang dirancang sebagai chatbot interaktif. Selain menjawab pertanyaan dan menganalisis tren, Grok memiliki kemampuan lain, seperti memproses dan memodifikasi gambar sesuai perintah pengguna. Potensi penyalahgunaan inilah yang kemudian menimbulkan polemik di berbagai kalangan.

Kritik terhadap Grok tidak hanya muncul dari Indonesia. Sejumlah negara turut mengecam fitur AI milik X tersebut karena dianggap memfasilitasi penyebaran konten seksual tanpa persetujuan, termasuk terhadap anak di bawah umur.

Pemerintah Malaysia, melalui Komisi Komunikasi dan Multimedia, menyatakan tengah menyelidiki gambar-gambar yang dihasilkan Grok setelah menerima keluhan soal manipulasi gambar perempuan dan anak di bawah umur menjadi konten cabul.

“Meskipun X saat ini belum terdaftar sebagai penyedia layanan resmi, platform tersebut tetap memiliki kewajiban untuk mencegah penyebaran konten merugikan,” tulis Komisi Komunikasi dan Multimedia Malaysia, Sabtu, 4 Januari 2026.

India bergerak cepat dengan mengirimkan surat resmi ke pihak X pada 2 Januari 2026, memerintahkan peninjauan menyeluruh atas Grok agar tidak menghasilkan konten yang mengandung ketelanjangan atau unsur seksual yang melanggar hukum.

Pihak X diberi waktu 72 jam untuk menyerahkan laporan kepada Kementerian Teknologi Informasi India. Pemerintah India juga mempertimbangkan regulasi baru untuk platform media sosial terkait konten AI.

Sementara itu, pemerintah Prancis menuding Grok memproduksi konten seksual "yang jelas ilegal" tanpa persetujuan orang yang ditampilkan. Pemerintah menilai konten tersebut bisa melanggar Digital Services Act (DSA) Uni Eropa, yang mewajibkan platform besar mencegah penyebaran konten ilegal. Prancis menekankan bahwa tanggung jawab tetap berada pada penyedia layanan, meskipun konten dipicu oleh permintaan pengguna.

Merespons gelombang kritik terhadap Grok, pemilik platform media sosial X, Elon Musk pada 3 Januari 2026, menyampaikan peringatan keras kepada para pengguna.

"Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan mendapatkan konsekuensi yang sama seperti jika mereka mengunggah konten ilegal," tulis Musk di akun media sosial X miliknya, 3 Januari 2026.