Peneliti UIN Jakarta Gagas Sistem Deteksi Dini Ekstremisme Keagamaan Digital Berbasis AI

Jakarta: Tim peneliti dari Universitas Islam Negeri (UIN) Syarif Hidayatullah Jakarta resmi memaparkan hasil riset nasional mengenai model komunikasi politik digital berbasis Trustworthy–Explainable Artificial Intelligence (TREX-AI). Penelitian ini dihadirkan untuk mendeteksi, mengukur, serta memitigasi risiko ekstremisme keagamaan digital di Indonesia melalui pendekatan computational psychometrics dan tata kelola platform.

Ketua Tim Penelitian Gun Gun Heryanto menyampaikan bahwa riset ini lahir dari kesadaran pentingnya membaca narasi ekstremisme tidak semata dari kacamata teknologi, melainkan dari kacamata komunikasi politik.

"Sebab itu, riset ini penting dibaca bukan hanya semata persoalan teknologi, tapi ini persoalan komunikasi politik. Jadi bacaannya tidak semata-mata technological determinism, tetapi harus ditempatkan dalam posisi kajian komunikasi politik," ujar Gun Gun Heryanto dalam Public Expose hasil penelitian di Gedung Fakultas Dakwah dan Ilmu Komunikasi (FDIKOM) UIN Jakarta, Rabu, 7 Oktober 2026.

Gun Gun menegaskan dalam ekosistem digital saat ini, perebutan pengaruh di media sosial telah menggeser pola kekuasaan komunikasi. "Tesis penelitian ini: kekuasaan komunikasi bergeser dari kemampuan memproduksi pesan ke kemampuan mengatur keterlihatannya," ungkapnya.

Ia juga menambahkan latar belakang di balik pentingnya menghadirkan sistem AI yang dapat dipercaya dan dijelaskan. Menurut dia, intoleran, radikalisme, dan terorisme merupakan hal yang faktual. Kemudian, sistem moderasi platform yang kecenderungan bekerja black box membuat ekspresi keagamaan substantif kerap disalahartikan sebagai ujaran ekstrem.

"Ada krisis komunikasi publik yang bergeser menjadi krisis algoritmik. Nah ini kenapa kemudian rekomendasi kita dan temuan kita mengarah pada adanya kebijakan soal trustworthy dan explainable AI," kata Dekan FDIKOM UIN Jakarta itu.

Riset ini didanai melalui Program Pendanaan Riset Indonesia Bangkit (MoRA The AIR Funds) Pusat Pembiayaan Pendidikan Agama dan Pendidikan Keagamaan (Puspenma) Kementerian Agama– Lembaga Pengelola Dana Pendidikan (LPDP) 2025–2026. Riset ini dikerjakan tim peneliti multidisiplin, yakni Prof. Gun Gun Heryanto M.Si (Komunikasi Politik), Dr. Rubiyanah M.A. (Ilmu Dakwah), Abdul Azis M.Psi. (Psikologi), dan mitra peneliti Zaenudin Amrulloh, M.Si. (Sosiologi/Dosen UIN Mataram).

Hasil riset ditanggapi oleh dua narasumber, yaitu Founder Drone Emprit Ismail Fahmi serta Ketua Tim Investasi Pendidikan, Kerja Sama, dan Riset Puspenma Kemenag Hendro Dwi Antoro.

Metodologi dan Temuan Riset

Penelitian menggunakan desain Mixed Methods Sequential Explanatory dengan mengombinasikan survei nasional terhadap 1.500 responden pengguna media sosial di 33 provinsi, evaluasi psikometrik, analisis Structural Equation Modeling-Partial Least Squares (SEM-PLS), serta Focus Group Discussion (FGD) di Yogyakarta dan Lombok.

Dari 67 butir indikator awal, tim berhasil memvalidasi 34 indikator final. Model struktural SEM-PLS menghasilkan daya jelas sebesar 0,472, yang menunjukkan bahwa variabel tata kelola platform, TREX-AI, dan Digital Religious Framing mampu menjelaskan 47,2 persen variasi risiko ekstremisme keagamaan digital. Berikut ini rinciannya:

• Platform Governance: Memiliki hubungan paling kuat dan dominan dalam meredam risiko ekstremisme digital.
• Trustworthy–Explainable AI: Berhubungan positif dan signifikan sebagai instrumen pendukung yang transparan.
• Digital Religious Framing: Berhubungan signifikan melalui pembingkaian narasi koeksistensi.

Anggota tim peneliti, Abdul Azis, menguraikan data demografi dan perilaku digital responden yang menjadi temuan kunci lapangan. Ia menjelaskan riset ini dibangun berdasarkan tiga lapisan. Pertama, lapisan survei, analisis data demografinya. Kedua, analisis konstruksi empat varian, dan ketiga analisis sampel PLS. 

"Tapi catatan penting adalah, data demografi ini tidak menunjukkan individual atau kelompok atau wilayah yang potensi ekstremis. Tapi ini hanya potret terkait dengan sampel 1.500 yang mengakses soal konten-konten ekstremisme keagamaan," papar Abdul Azis.

Mengenai platform yang menjadi arena utama sirkulasi isu keagamaan, Azis menerangkan adanya pergeseran tren di kalangan pengguna. Temuan menunjukkan TikTok (80 persen) dan Instagram (53 persen) jadi platform yang paling banyak diakses responden. 

"Jadi, kalau dulu ada YouTube, Facebook, X, hari ini Gen Z atau 1.500 sampel itu bicaranya, bertarungnya, atau mengakses konten ekstremisme itu di dua platform, yaitu TikTok dan Instagram," tambah Azis.

Azis juga menyoroti temuan mengenai pola interaksi netizen yang cenderung pasif di media sosial. Dari 1.500 sampel di 33 provinsi, rata-rata hanya memberi like dan reaksi. 

"Artinya, kalau kita lihat datanya, berdiskusi secara aktif, perdebatan, diskusi, tukar pendapat, itu ternyata tidak terjadi di sosial media," papar Azis.

Sementara itu, terkait dengan figur yang paling dipercaya publik dalam masalah agama, Azis mengungkapkan bahwa otoritas konvensional masih memegang peranan kunci. Sebanyak 63 persen responden masih percaya dengan tokoh agama konvensional dan 41 persen percaya pada pendakwah atau influencer.

"Maknanya adalah, platform berfungsi sebagai ruang penyebaran dan perjumpaan dengan informasi, sedangkan legitimasi isi keagamaan masih ditekankan pada figur yang berotoritas," tegas Azis.

Public Expose hasil riset peneliti UIN Jakarta di Gedung Fakultas Dakwah dan Ilmu Komunikasi UIN Jakarta. Foto: Metrotvnews.com/Arga Sumantri.

Rekomendasi Kebijakan dan Prototipe TREX-AI

Berdasarkan analisis computational psychometrics, riset ini merumuskan Digital Religious Extremism Risk Index (DRERI) yang dibentuk dari tujuh indikator risiko pada empat dimensi; Religious Absolutism, Outgroup Rejection, Moral Delegitimization, dan Support for Intolerant Digital Action.

Sebagai bentuk konkret riset yang berdampak, tim menyusun peta jalan fungsional dan prototipe TREX-AI Engine, serta DRERI Dashboard. Prototipe ini dirancang berbasis prinsip human in the loop, yakni analisis kecerdasan buatan tetap wajib diawasi dan diverifikasi oleh analis manusia.

Hasil riset ini menghasilkan lima rekomendasi kebijakan utama:

1. Penyusunan Kebijakan Nasional: Kementerian Agama, Badan Nasional Penanggulangan Terorisme (BNPT), dan Kementerian Komunikasi dan Digital (Komdigi) didorong menetapkan standar pengukuran risiko ekstremisme digital berbasis tata kelola platform.
2. Sistem Pengukuran Berbasis TREX-AI: Menerapkan sistem deteksi yang transparan, akuntabel, dan dapat dijelaskan alasannya.
3. Tata Kelola Keterlihatan Platform: Komdigi dan pengelola platform digital diminta memperluas tata kelola dari sekadar penghapusan konten (takedown) menuju transparansi algoritma rekomendasi dan penyediaan mekanisme keberatan bagi pengguna.
4. Pemanfaatan Deteksi Dini: BNPT dan Kemenag dapat memanfaatkan indeks DRERI sebagai pendukung asesmen awal tanpa menjadikannya sebagai alat pelabelan individu.
5. Ekosistem Moderasi Beragama Digital: Penguatan literasi digital, literasi algoritmik, serta kapasitas komunikasi digital bagi para tokoh agama dan penyuluh.

Riset nasional ini menghasilkan delapan luaran utama, di antaranya naskah laporan penelitian, buku naratif "AI Saja Tidak Cukup", policy brief, functional blueprint, artikel jurnal internasional terindeks Scopus (Ulumuna), prototipe dashboard, serta pendaftaran Hak Kekayaan Intelektual (HKI) dan International Standard Book Number (ISBN). 

Tim UIN Jakarta berharap model TREX-AI dan indeks DRERI ini dapat diuji coba terbatas di sekolah dan kampus sebagai proyek percontohan penguatan moderasi beragama berbasis bukti.