Promosi Konten Bunuh Diri, Amnesty International Tuduh TikTok Bahayakan Remaja Prancis

Paris: Laporan terbaru Amnesty International mengungkapkan platform TikTok membahayakan pengguna muda di Prancis dengan secara aktif mempromosikan konten depresif dan bunuh diri melalui algoritmanya, melanggar Undang-Undang Layanan Digital (DSA) Uni Eropa.

Studi berjudul "Dragged into the Rabbit Hole" ini menemukan bahwa fitur "For You" platform dapat mengekspos anak berusia 13 tahun pada video mengganggu tentang kesehatan mental hanya dalam hitungan menit.

Peneliti Amnesty membuat tiga akun uji coba remaja di Prancis untuk memantau respons algoritma TikTok terhadap minat pada topik kesehatan mental. Hasilnya mengkhawatirkan dalam lima menit, akun menemui video tentang kesedihan, kemudian dalam 15 menit, setengah feed berisi materi depresif, dan dalam 45 menit selanjutnya dua akun telah ditampilkan video yang merujuk pada pikiran bunuh diri.

"Platform ini memperburuk kesedihan alih-alih melindungi pengguna," ujar salah satu peneliti Amnesty, Lisa Dittmer, seperti dikutip dari Anadolu, Kamis, 23 Oktober 2025.

Mekanisme algoritma

Kolaborasi penelitian dengan Algorithmic Transparency Institute mengungkap bahwa ketika akun berinteraksi dengan video sedih, algoritma lebih dari dua kali lipat menyarankan konten serupa.

Mekanisme ini menciptakan apa yang disebut Amnesty sebagai "siklus toksik" dimana remaja rentan semakin terperangkap dalam spiral konten berbahaya. Padahal menurut DSA UE yang berlaku sejak 2023, platform media sosial wajib menilai dan mengurangi risiko sistemik terhadap hak anak-anak.

Salah satu korban, Maelle, 18 tahun, mengaku kesehatan mentalnya memburuk setelah terpapar video yang mendorong tindakan menyakiti diri, sementara Stephanie Mistre seorang ibu dari Marie, 15 tahun, yang meninggal akibat bunuh diri pada 2021, menyebut TikTok telah menjadikan anak-anak sebagai “produk” yang dieksploitasi secara emosional.

Tanggung jawab platform

Amnesty mendesak Komisi Eropa menerapkan "langkah-langkah mengikat dan efektif" untuk memastikan keamanan pengguna di bawah umur. Meski TikTok telah memperkenalkan langkah perlindungan baru pada 2024, Katia Roux dari Amnesty Prancis menegaskan platform tetap "mengekspos anak di bawah umur pada konten yang memuja kesedihan dan menyakiti diri sendiri."

Pelanggaran terhadap DSA ini berpotensi mengakibatkan sanksi berat bagi TikTok, termasuk denda hingga 6 persen dari pendapatan globalnya.

Laporan ini memperkuat kekhawatiran tentang dampak sistemik model bisnis berbasis keterlibatan (engagement-based model) yang dipraktikkan platform media sosial terhadap kesehatan mental generasi muda. Komisi Eropa kini berada di bawah tekanan untuk mengambil tindakan tegas melindungi pengguna rentan dari eksploitasi digital.


(Muhammad Adyatma Damardjati)