Streaming 
Senior Developer Relations Engineer Google Cloud Alvin Prayuda. Foto: Metrotvnews.com/Tiaranissa Juliansyah.
Google Cloud Ingatkan Risiko Keamanan AI Agent Perusahaan
Husen Miftahudin • 22 October 2026 13:49
Jakarta: Penggunaan kecerdasan buatan (AI) yang terhubung dengan database perusahaan berpotensi menimbulkan risiko keamanan apabila akses dan aktivitasnya tidak diawasi dengan baik. Ancaman tersebut tidak hanya berasal dari perintah pengguna, tetapi juga dapat disisipkan melalui data yang dibaca AI agent.
Senior Developer Relations Engineer Google Cloud Alvin Prayuda mengatakan, AI agent memiliki kemampuan mengakses data perusahaan dan layanan lain untuk menyelesaikan tugas berdasarkan instruksi yang diterimanya. Kemampuan tersebut perlu diimbangi pengaturan hak akses dan mekanisme pengamanan untuk mencegah penyalahgunaan sistem.
"Jadi, kalau misalnya dari perspektif Bapak Ibu, jailbreak itu cuma bisa dilakukan oleh human yang berinteraksi dengan agent tersebut, nah, itu sayangnya tidak sepenuhnya benar. Karena ternyata prompt injection itu juga bisa disimpan melalui file atau data yang kita simpan," ucap Alvin dalam Peruri Digital Summit 2026, Kamis, 22 Oktober 2026.
Alvin menjelaskan, AI agent tidak hanya menerima pertanyaan dan menghasilkan jawaban, tetapi juga dapat menggunakan perangkat bantu untuk mengakses database maupun layanan internal perusahaan. Kemampuan tersebut memungkinkan analisis data dilakukan melalui percakapan, tetapi sekaligus membuka potensi risiko apabila sistem menjalankan instruksi berbahaya.
(Ilustrasi. Foto: dok Metrotvnews.com)
Prompt injection bisa disisipkan lewat data
Ancaman prompt injection dapat muncul ketika pihak tidak bertanggung jawab menyisipkan instruksi berbahaya ke dalam data yang nantinya dibaca AI agent. Dengan demikian, risiko keamanan tidak terbatas pada interaksi langsung antara pengguna dan sistem kecerdasan buatan.
Alvin mencontohkan kemungkinan serangan terhadap perusahaan e-commerce yang menggunakan AI agent untuk mengakses data pengguna. Penyerang dapat menyisipkan instruksi berbahaya melalui deskripsi barang yang tersimpan dalam database perusahaan tersebut.
"Jadi misalnya nih, bayangkan suatu e-commerce punya suatu data jual barang, gitu ya. Dan attacker sudah tahu e-commerce tersebut itu menyutilisasi AI agent untuk mengakses data-data terhadap user. Nah, jailbreak prompt injection prompt-nya ini bisa disimpan di deskripsi barang-barang yang ditaruh di data tersebut," ucap dia.
Untuk mengantisipasi risiko tersebut, perusahaan perlu membatasi permintaan yang masuk dan keluar dari AI agent, termasuk melalui penyaringan data serta pengaturan izin akses. Alvin menjelaskan, pengamanan dapat dilakukan dengan mengatur lalu lintas jaringan dan menggunakan mekanisme penyaringan untuk mendeteksi prompt injection maupun data sensitif.
Ia menegaskan, penerapan mekanisme pengamanan tidak menjamin keamanan sepenuhnya sehingga evaluasi tetap diperlukan. Pengaturan kebijakan dan hak akses menjadi bagian penting untuk menjaga penggunaan AI agent tetap terkendali, terutama ketika teknologi tersebut diintegrasikan dengan sistem dan database perusahaan. (Tiaranissa Juliansyah)