Jakarta, Mediaprofesi.id – Agen kecerdasan buatan (AI) otonom semakin banyak dilirik perusahaan untuk mempercepat pekerjaan dan mengotomatisasi proses bisnis. Namun, kemampuan agen AI mengakses data, menyimpan kredensial, hingga menjalankan perintah di sistem produksi juga membuka celah serangan siber yang tak bisa dianggap remeh.
Mengantisipasi risiko tersebut, TrendAI™, unit bisnis keamanan siber Trend Micro Incorporated, menggandeng NVIDIA untuk memperkuat keamanan agen AI melalui NVIDIA Agent Safety Platform. Kolaborasi ini dirancang untuk membantu perusahaan menerapkan agentic AI dalam skala besar tanpa mengabaikan perlindungan sistem, identitas, dan data sensitif.
Kedua perusahaan menegaskan, keamanan agen AI tidak cukup mengandalkan satu lapisan pertahanan. Perlindungan harus mencakup seluruh komponen, mulai dari model AI yang melakukan penalaran, harness yang mengatur kerja agen dan sub-agen, hingga perangkat, aplikasi, serta sumber data yang dapat diaksesnya.
Risikonya kian besar ketika perusahaan beralih dari proyek percontohan ke penerapan AI secara luas. Agen yang mampu bertindak tanpa persetujuan manusia pada setiap langkah berpotensi mempercepat pekerjaan, tetapi juga bisa memperbesar dampak jika kredensial dicuri, akses disalahgunakan, atau sistem berhasil ditembus.
NVIDIA Bangun Pertahanan, TrendAI Perkuat Pengawasan
Dalam skema ini, NVIDIA Agent Safety Platform menempatkan kontrol keamanan pada infrastruktur di bawah lingkungan eksekusi agen AI. OpenShell menerapkan kebijakan di luar lingkungan tersebut agar tidak mudah dimanipulasi melalui instruksi atau prompt. Sementara itu, NVIDIA BlueField-4 DPU dan NVIDIA DOCA menambahkan lapisan perlindungan pada tingkat perangkat keras.
TrendAI melengkapi sistem tersebut melalui TrendAI Vision One™, platform yang menyediakan intelijen ancaman, visibilitas aktivitas agen, serta kemampuan deteksi dan respons terhadap serangan.
Chief Platform and Business Officer sekaligus Head of TrendAI™, Rachel Jin, menegaskan bahwa keamanan AI harus mencakup model, harness, perangkat yang digunakan, hingga seluruh sumber data yang dapat diakses agen.
Menurutnya, NVIDIA membangun batasan terhadap tindakan yang boleh dilakukan agen, sedangkan TrendAI membantu perusahaan menentukan kebijakan, memantau aktivitas, dan mendeteksi potensi ancaman.
Kolaborasi ini diharapkan memberi perusahaan jalur yang lebih praktis untuk memperluas penerapan AI otonom dengan pengawasan keamanan yang menyeluruh.
Perusahaan Indonesia Dapat Perlindungan dengan Data Tetap di Dalam Negeri
Di Indonesia, kebutuhan tersebut semakin mendesak seiring perusahaan mulai membawa proyek AI dari tahap uji coba menuju operasional produksi.
Country Manager TrendAI™ Indonesia, Fetra Syahbana, menekankan bahwa keamanan tidak boleh lagi ditempatkan sebagai pertimbangan belakangan ketika perusahaan mengadopsi AI otonom.
Melalui integrasi dengan teknologi NVIDIA, TrendAI menawarkan perlindungan berlapis, dari perangkat keras hingga perangkat dan data yang diakses agen. Perusahaan juga dapat memanfaatkan local instance TrendAI Vision One™ dengan jaminan residensi data di dalam negeri.
Kemampuan ini ditujukan untuk membantu perusahaan mengelola risiko dan memenuhi kebutuhan kepatuhan terhadap regulasi lokal tanpa harus mengorbankan inovasi.
Secara teknis, TrendAI Vision One™ mencakup empat area utama. Pertama, memeriksa prompt dan respons untuk memblokir prompt injection serta jailbreak, sekaligus menyaring data sensitif. Kedua, mengendalikan akses agen terhadap perangkat dan server Model Context Protocol (MCP), termasuk memeriksa pemanggilan perangkat serta perilaku komponen AI saat berjalan.
Ketiga, mengidentifikasi data sensitif, membatasi akses sesuai kewenangan, mencegah kebocoran berkas, dan mencabut hak akses berlebihan dari agen maupun identitas nonmanusia. Keempat, memanfaatkan telemetri NVIDIA BlueField DPU dan DOCA untuk mendeteksi ancaman, termasuk ketika sistem operasi utama telah disusupi.
Sinyal keamanan AI juga dapat dikorelasikan dengan data dari perangkat, jaringan, dan identitas untuk membantu mendeteksi pergerakan penyerang di dalam sistem.
Lewat pendekatan berlapis ini, TrendAI dan NVIDIA membidik tantangan utama adopsi agentic AI: memberi keleluasaan bagi agen untuk bekerja secara otonom, tanpa membiarkan akses dan tindakannya berkembang di luar kendali perusahaan. * (Syam/Pra)
42 Views
