Ancaman Deepfake Kian Nyata, ASEAN Didorong Perkuat Ekosistem Digital

Jakarta: Dunia digital kian dibayangi ancaman baru seiring kemajuan teknologi kecerdasan buatan (AI). Dalam sesi bertajuk “How to Protect Our People from Rising Threats of Cyber Crimes and Online Scams” di ASEAN for the Peoples Conference (AFPC), Sabtu, 4 Oktober 2025, General Manager Tools for Humanity Indonesia, Wafa Taftazani, menyoroti bahaya meningkatnya penipuan daring berbasis deepfake dan menyerukan pentingnya membangun sistem kepercayaan digital yang aman bagi masyarakat.

“AI kini membuat siapa pun bisa berpura-pura menjadi orang lain,” ujar Wafa. Ia mencontohkan maraknya modus phishing di mana pelaku menyamar sebagai anggota keluarga, lengkap dengan foto dan suara yang tampak autentik.

“Sekarang bahkan menerima panggilan dari seseorang yang terlihat dan terdengar seperti ayah atau ibu kita belum tentu benar-benar mereka,” sambungnya.

Menurut Wafa, perubahan lanskap kejahatan digital terjadi dalam dua cara besar. Pertama, deepfake memungkinkan penyamaran visual dan suara secara real-time, bahkan dalam panggilan video. Kedua, AI memudahkan pelaku mengoperasikan ribuan akun palsu secara bersamaan. 

“Satu orang bisa mengendalikan ribuan akun untuk menipu jutaan orang. Mungkin hanya seribu yang tertipu, tapi itu sudah merugikan ekonomi dan masyarakat kita,” tegasnya.

Melihat fenomena ini, Wafa menekankan pentingnya mengembalikan rasa saling percaya di ruang digital, sebuah nilai yang juga menjadi semangat utama ASEAN. “Bagaimana kita bisa membangun kepercayaan jika kita bahkan tidak yakin dengan siapa kita berinteraksi di dunia maya?” ucapnya.

Untuk menjawab tantangan tersebut, Tools for Humanity, perusahaan yang didirikan oleh Sam Altman, pendiri OpenAI mengembangkan World ID, sebuah protokol privasi terbuka (open-source) yang memungkinkan verifikasi identitas manusia tanpa mengorbankan data pribadi.

“Biasanya untuk membuktikan kita manusia, kita harus menyerahkan data pribadi, KTP, nomor telepon, atau menyelesaikan CAPTCHA. Dengan sistem kami, itu tidak perlu,” jelas Wafa. 

Proses verifikasi dilakukan melalui perangkat fisik bernama orb, yang memindai wajah pengguna hanya sekali untuk memastikan bahwa ia adalah manusia unik. “Setelah verifikasi selesai, foto akan dihapus, dan pengguna hanya menerima kode terenkripsi di ponselnya.”

Kode tersebut, lanjutnya, dapat digunakan untuk login ke berbagai platform tanpa memberikan data sensitif. “Ini bukan pengganti proses Know Your Customer (KYC) di sektor keuangan, tapi melindungi platform dari akun-akun palsu dan bot yang memanfaatkan AI untuk menipu.”

Wafa menilai bahwa jika teknologi semacam ini diadopsi secara luas di kawasan ASEAN, hal itu dapat memperkuat ekosistem digital regional dan meningkatkan kepercayaan lintas negara.

“Dengan cara ini, kita bukan hanya melindungi pengguna dari penipuan, tapi juga menumbuhkan kembali kepercayaan di antara masyarakat ASEAN,” pungkas Wafa.

Baca juga:  Pakar Brunei Dorong ASEAN Perkuat Mekanisme Hadapi Kejahatan Siber