Keamanan Agen AI Jadi Tantangan Transformasi Industri

Jakarta: Keamanan agentic artificial intelligence (AI) menjadi tantangan dalam transformasi industri, terutama untuk mengendalikan akses data, membatasi kewenangan agen AI, dan mencegah tindakan otomatis yang berisiko terhadap operasional perusahaan.
 
Principal Architect, SASE/Zero Trust PT Alto Networks Goseph Maindola mengatakan, keamanan penerapan agen AI tidak cukup hanya mengandalkan instruksi, tetapi juga membutuhkan kontrol terhadap kemampuan dan kewenangan yang diberikan kepada setiap agen.
 
"Masalahnya bukan pada instruksi, melainkan pada apa yang bisa dilakukan oleh agen AI dan apa yang dibenarkan untuk dilakukannya. Itulah kesenjangan yang harus kita kendalikan," ucap Goseph dalam acara Danantara Technology Innovation Investment Forum 2026 di Jakarta, Selasa, 27 Oktober 2026.
 
Menurut Goseph, pengamanan sistem industri perlu dimulai dengan mengidentifikasi potensi kegagalan dan dampak terburuk yang dapat terjadi. Perusahaan juga perlu memetakan seluruh komponen yang saling terhubung, mulai dari perangkat, mesin, perangkat lunak, data, hingga model dan agen AI. Visibilitas terhadap komponen tersebut menjadi dasar untuk menentukan kontrol keamanan.
 

(Ilustrasi. Foto: Freepik)

 

Akses data dan tindakan agen AI perlu dibatasi

 
Perusahaan perlu memastikan lokasi penyimpanan dan pemrosesan data, sekaligus menentukan pihak yang berwenang mengakses maupun mengubahnya. Pengendalian ini semakin penting karena AI menggunakan data dari berbagai lingkungan, termasuk proses pelatihan, layanan komputasi awan, dan model AI.
 
"Identifikasi di mana data berada, siapa yang dapat mengakses data, dan siapa yang dapat mengubahnya. Itu sangat penting karena setiap perubahan pada data dapat memengaruhi tindakan yang diambil oleh sistem," ucap Goseph.
 
Selain pengaturan akses, perusahaan perlu menerapkan pemisahan sistem untuk membatasi dampak apabila terjadi gangguan. Dengan demikian, masalah pada satu bagian tidak langsung memengaruhi keseluruhan operasi industri. Aktivitas sistem juga perlu direkam untuk mendukung pengawasan dan evaluasi keamanan.
 
Setiap agen AI perlu memiliki identitas yang jelas, termasuk pihak yang bertanggung jawab atas tindakannya. Kemampuan dan hak akses agen harus dibatasi sesuai kebutuhan tugas. Akses tersebut tidak harus diberikan sepanjang waktu, melainkan hanya ketika diperlukan untuk menyelesaikan pekerjaan tertentu.