AI Makin Canggih, Pakar AI BRIN Ingatkan Risiko bagi Anak

Jakarta: Penggunaan Artificial Intelligence (AI) pada anak perlu mendapat perhatian khusus. Pakar AI BRIN menilai penggunaan AI yang tidak terkontrol dapat membuat anak terlalu bergantung pada teknologi hingga mengurangi proses belajar secara alami.

Tenaga Ahli Bidang Kecerdasan Artifisial dan Transformasi Digital BRIN Prof Hammam Riza mengatakan aturan penggunaan AI tidak bisa diterapkan secara seragam untuk seluruh sektor. Regulasi perlu disesuaikan dengan karakteristik dan risiko di masing-masing bidang, termasuk pendidikan. Hal itu disampaikan Hammam dalam Forum Group Discussion (FGD) Techpresso bertajuk “Agentic AI, Are We Ready?” yang digelar Medcom.id di Grand Studio Metro TV, Kedoya, Jakarta, Kamis, 10 September 2026.

“Kita harus bisa melihat di setiap penggunaan AI. Karena AI itu nggak bisa dibuat, diatur untuk semua sektor sekaligus, tapi berdasarkan sektor masing-masing,” ujar Hammam.

 

Penggunaan AI pada Anak Perlu Diatur

Hammam menjelaskan pendekatan tersebut berkaitan dengan sandbox regulatory, yakni pengaturan penggunaan teknologi dengan mempertimbangkan konteks dan risiko tertentu. Dalam sektor pendidikan, misalnya, penggunaan AI perlu ditata agar teknologi tidak menggantikan kemampuan dasar yang seharusnya dibangun oleh anak. Menurut Hammam, anak perlu terlebih dahulu memahami proses berpikir dan belajar sebelum terlalu bergantung pada bantuan AI.

“Kalau di pendidikan, mungkin sekarang kita ingin membatasi supaya apa? Supaya anak-anak kita yang belajar itu memang belajar computational thinking dulu gitu. Supaya dia bisa mengerti apa nih manfaat AI,” jelasnya.

Ia menilai ketergantungan terhadap AI dapat membuat anak kehilangan proses belajar yang seharusnya dilakukan secara alami, terutama jika teknologi digunakan untuk menjawab berbagai persoalan tanpa adanya proses memahami dan mencari tahu.

“Tidak sekonyong-konyong hilang pengetahuannya terhadap itu, ya kan? Karena semua diserahkan ke AI untuk menjawabnya,” ujarnya.

Karena itu, Hammam menilai penyusunan standar maupun regulasi AI perlu dilakukan secara hati-hati. Menurutnya, setiap sektor memiliki kebutuhan dan tingkat risiko yang berbeda sehingga aturan tidak bisa dibuat sekaligus untuk seluruh penggunaan AI.

“Jadi banyak hal yang memang harus ditata tanpa terburu-buru kita mengeluarkan standar ataupun regulasi-regulasi,” katanya.

Ia juga menyoroti sejumlah negara yang mulai membatasi penggunaan sejumlah layanan AI bagi anak-anak. Pembatasan tersebut salah satunya didorong kekhawatiran terhadap perubahan pola belajar anak.

“Kalau kita lihat sekarang ini di banyak negara dibatasi tuh, AI tidak boleh digunakan. ChatGPT itu nggak boleh digunakan, atau Anthropic, atau Gemini nggak boleh digunakan bagi anak-anak,” tutur Hammam.

Menurutnya, penggunaan AI secara berlebihan berpotensi membuat anak enggan membaca dan belajar dengan cara yang semestinya dalam proses pendidikan.

Selain persoalan penggunaan pada anak, Hammam menekankan pentingnya aspek keamanan dalam pengembangan AI. Ia mengatakan sistem AI perlu dibangun dengan prinsip security by design, sehingga keamanan sudah menjadi bagian dari proses pengembangan sejak awal.

“Kita bisa membangun AI yang kuat, tapi keamanannya harus dijaga dengan prinsip security by design,” ujar Hammam.

Diskusi Techpresso turut menghadirkan Wakil Menteri Komunikasi dan Digital Nezar Patria, President Director PT ITSEC Asia Patrick Dannacher, CEO Media Group Muhammad Mirdal Akib, serta Prof Hammam Riza. Diskusi membahas perkembangan agentic AI, kesiapan penggunaan AI, keamanan, hingga kebutuhan regulasi dalam menghadapi perkembangan teknologi kecerdasan artifisial.