Perusahaan Mulai Adopsi Agentic AI, Ini yang Harus Diwaspadai

Jakarta: Perusahaan mulai meningkatkan pemanfaatan agentic artificial intelligence (AI) untuk mendukung kecepatan dan efisiensi bisnis. Namun, semakin mandiri teknologi tersebut dalam mengakses sistem dan menjalankan tugas, semakin besar pula kebutuhan terhadap pengamanan dan pengawasan.

CEO Media Group Mohammad Mirdal Akib mengatakan dunia industri telah memasuki era agentic AI, ketika kecerdasan buatan tidak lagi hanya berfungsi sebagai alat bantu.

"Kita kini telah memasuki era agentic AI, kecerdasan buatan tidak lagi sekadar alat bantu komunikasi, melainkan teknologi nyata yang mampu mengeksekusi tugas-tugas operasional kompleks secara mandiri," ujar Mirdal Akib dalam diskusi Techpresso, di Media Group, Jakarta, Kamis, 10 September 2026.

Agentic AI dapat mengakses berbagai sistem dan menjalankan tugas secara mandiri. Perkembangan ini membuat perusahaan perlu memperhatikan keamanan akses, perlindungan data, serta proses pengambilan keputusan, dan tindakan yang dilakukan AI.

President Director PT ITSEC Asia Patrick Dannacher mengatakan, 30 persen perusahaan merasa siap menggunakan AI agent, sedangkan 19 persen lainnya sangat yakin telah siap. Namun, penilaian tersebut masih didasarkan persepsi masing-masing perusahaan.

Di sisi lain, 60 persen perusahaan berencana menggunakan AI agent dalam dua tahun ke depan. Menurut Patrick, rencana adopsi tersebut perlu diikuti kesiapan keamanan dan keterlibatan tenaga yang memahami teknologi AI.
   

Audit trail jadi kunci

Patrick pun menekankan ada dua hal yang perlu diperhatikan sebelum perusahaan menerapkan AI agent. Pertama, perusahaan harus mengetahui seluruh AI agent yang beroperasi di dalam sistem, termasuk akses yang dimiliki masing-masing agen.

Kedua, perusahaan perlu dapat menelusuri proses ketika terjadi kesalahan berlangsung, hingga alasan di balik keputusan AI. Karena itu, audit trail diperlukan untuk merekam dan menelusuri aktivitas serta keputusan AI. Jika kedua aspek tersebut belum terpenuhi, perusahaan dinilai belum sepenuhnya siap menggunakan AI agent.

Keamanan juga mencakup etika, standar risiko, aturan, dan keselamatan AI. Sistem yang telah diterapkan perlu ditinjau secara berkala agar tetap sesuai dengan ketentuan yang berlaku.
 

Risiko silent autonomy

Kepala BRIN Arif Satria mengingatkan adanya risiko silent autonomy, yakni kondisi ketika AI dapat mengembangkan kemampuan dan mengambil keputusan tanpa diketahui manusia. Karena itu, penerapan AI perlu berbasis risiko dan human-centric, dengan manusia tetap terlibat dalam pengambilan keputusan.

Risiko keamanan AI mencakup data, model, hingga proses pengambilan keputusan. Salah satu ancamannya adalah data poisoning, yaitu manipulasi data yang digunakan dalam sistem AI sehingga dapat memengaruhi hasil keputusan.

Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan keamanan harus menjadi bagian dari seluruh ekosistem atau full stack AI. Hal ini semakin penting seiring perkembangan teknologi, termasuk quantum computing.

Semakin mandiri AI, perusahaan perlu memastikan akses terkendali, data terlindungi, dan setiap keputusan dapat ditelusuri.

(Hasri Khairunnisa)