Jakarta, Mediaprofesi.id – Perkembangan AI agentic membuat lanskap keamanan siber perusahaan memasuki babak baru. Ancaman tidak lagi sebatas kebocoran data, kerentanan model, atau izin akses yang terlalu luas. Tantangan yang lebih besar muncul ketika agen AI mampu mengakses data dalam jumlah masif, berinteraksi lintas sistem, hingga menjalankan tindakan secara otonom dengan kecepatan yang jauh melampaui manusia.
Menurut Carolyn Duby, Field CTO dan Cybersecurity Lead Cloudera, kondisi ini membuka kelemahan sistemik dalam keamanan dan tata kelola data yang sebelumnya mungkin tidak pernah muncul ketika sistem hanya dioperasikan manusia.
“Perusahaan perlu memikirkan ulang arsitektur keamanan yang selama ini dibangun berdasarkan perilaku manusia,” menjadi salah satu pesan penting dalam menghadapi semakin luasnya penggunaan agen AI.
Survei Cloudera The Great AI Re-Architecture menunjukkan, 46% responden di Asia Pasifik menyebut keamanan data, tata kelola, dan compliance sebagai pendorong utama perubahan infrastruktur AI mereka. Di Indonesia, tuntutan akuntabilitas juga semakin kuat seiring regulasi perlindungan data dan sektor keuangan yang semakin ketat.
Akses Saja Tak Lagi Cukup
Perubahan terbesar terjadi pada cara perusahaan memandang kontrol akses. Dalam sistem tradisional, keamanan banyak bertumpu pada pertanyaan siapa yang boleh mengakses apa.
Namun, ketika agen AI mulai bekerja secara otonom, pendekatan tersebut tidak lagi cukup. Tim keamanan harus menghitung potensi blast radius atau “radius ledakan” apabila agen menemukan kredensial yang bocor, kerentanan yang belum ditambal, atau jalur lateral movement menuju sistem lain.
Karena itu, prinsip least privilege perlu diperluas. Selain membatasi hak akses, perusahaan perlu menerapkan segmentasi jaringan, sandboxing, izin API yang ketat, serta identitas sementara bagi agen AI. Hak istimewa sebaiknya hanya diberikan selama sub-task tertentu dan segera dicabut setelah pekerjaan selesai.
Masalahnya, pembatasan akses saja belum menyelesaikan seluruh risiko. Agen AI tetap dapat melakukan tindakan tidak terduga meski menggunakan kredensial dan izin yang sah. Karena itu, perilaku agen perlu divalidasi secara terus-menerus dan real-time.
Zero Trust Naik Level
Konsep Zero Trust pun menghadapi tuntutan baru. Prinsip “never trust, always verify” kini tidak hanya berlaku untuk pengguna, perangkat, dan jaringan, tetapi juga data, model, workload, serta agen otonom.
Agen AI dapat beroperasi menggunakan kredensial valid, tetapi tetap menghasilkan rangkaian tindakan yang tidak terduga karena sifat sistem AI yang non-deterministik.
Survei Cloudera mencatat 61% responden Asia Pasifik menilai integrasi AI membuat tata kelola data yang efektif jauh lebih sulit dipertahankan.
Karena itu, Zero Trust untuk AI harus mencakup pemantauan tindakan agen secara berkelanjutan, circuit breaker otomatis, hingga mekanisme human-in-the-loop yang memungkinkan manusia menghentikan atau mengintervensi ketika perilaku agen menyimpang dari tujuan.
Private AI Bukan Berarti Bebas Risiko
Perubahan strategi juga terlihat dari meningkatnya adopsi private AI. Di Asia Pasifik, 63% perusahaan disebut telah memindahkan setidaknya sebagian workload AI dari public cloud kembali ke private cloud atau lingkungan on-premises dalam setahun terakhir.
Menempatkan AI lebih dekat dengan data perusahaan dapat mengurangi paparan terhadap endpoint public cloud dan memperkuat kendali atas data sensitif. Namun, langkah ini tidak otomatis menghilangkan risiko.
Model, prompt, dan output juga dapat mengandung atau mengungkap informasi sensitif. Ancaman dari orang dalam, salah konfigurasi, kredensial yang disusupi, serta perilaku agen yang tidak terduga tetap ada.
Pada akhirnya, perusahaan perlu melihat agen AI sebagai entitas software otonom, bukan sekadar “karyawan digital” yang bekerja lebih cepat. Agen dapat memproses data dalam skala besar dan bertindak lintas sistem dengan kecepatan mesin.
Karena itu, keamanan harus bergerak melampaui sekadar menjaga “pintu depan”. Perusahaan perlu membatasi blast radius, memvalidasi perilaku agen secara terus-menerus, serta memastikan kontrol dan tata kelola tetap konsisten di mana pun data dan AI dijalankan.
Momentum Cybersecurity Awareness Month menjadi pengingat bahwa keamanan harus berkembang seiring teknologi yang dilindunginya. Semakin besar otonomi yang diberikan kepada agen AI, semakin penting pula visibilitas, kontrol, dan kemampuan perusahaan untuk memantau, membatasi, serta mengaudit setiap tindakan yang dilakukan agen tersebut. * (Syam/Pra)
73 Views
