Jakarta, Mediaprofesi.id – Perkembangan kecerdasan buatan (AI) di dunia bisnis ternyata menghadirkan persoalan baru. Di tengah perlombaan perusahaan mengadopsi agen AI, banyak organisasi justru kesulitan mengetahui berapa banyak agen yang beroperasi, siapa yang mengelolanya, hingga seberapa besar risiko yang ditimbulkan.
Kondisi ini membuka celah pengawasan yang serius. Agen AI terus bermunculan di berbagai platform, tetapi perusahaan belum tentu memiliki sistem untuk memantau aktivitas, kinerja, dan dampaknya terhadap bisnis.
Melihat persoalan tersebut, Dataiku, platform untuk kesuksesan AI, meluncurkan Dataiku Agent Management, produk mandiri yang dirancang untuk mendeteksi, memantau, dan mengelola seluruh agen AI dalam lingkungan perusahaan, tanpa terikat pada platform pembuatnya.
Produk ini diperkenalkan dalam konferensi tahunan Dataiku Succeed. Kehadirannya menjawab kebutuhan perusahaan yang harus mengimbangi pertumbuhan populasi agen AI dengan kemampuan pengawasan dan pengelolaan yang memadai.
Selama ini, perusahaan besar umumnya memiliki inventaris perangkat lunak yang mencatat pemilik, biaya operasional, hingga masa berlaku setiap aplikasi. Namun, sistem serupa hampir tidak tersedia untuk agen AI.
Masalahnya, sebagian besar platform hanya mampu memantau agen yang dibangun dalam ekosistem mereka sendiri. Akibatnya, agen yang beroperasi di luar platform tersebut berpotensi luput dari pengawasan, termasuk terkait kepemilikan, tujuan penggunaan, risiko, dan kontribusi bisnisnya.
“Jika bertanya kepada sebuah bank berapa banyak server yang mereka operasikan, mereka mungkin dapat memberikan jawaban hingga angka desimalnya. Namun, jika bertanya berapa banyak agen AI yang sedang berjalan, jawabannya mungkin hanya berupa anggukan bahu atau sekadar perkiraan,” ujar Florian Douetteau, Co-Founder dan CEO Dataiku.
Menurutnya, tim teknologi informasi (TI) kini mampu mengembangkan agen AI jauh lebih cepat dibandingkan kemampuan organisasi untuk mendata dan mengawasinya.
Dataiku Agent Management dirancang untuk menjawab persoalan tersebut melalui satu inventaris terpusat yang menghubungkan berbagai ekosistem AI, mulai dari AWS Bedrock, Databricks Agents, Google Vertex, Microsoft Copilot Studio, Azure Foundry, Salesforce Agentforce, Snowflake Cortex, hingga platform Dataiku sendiri.
Dukungan OpenTelemetry juga memungkinkan sistem terhubung dengan lingkungan khusus yang dikembangkan perusahaan.
Tak hanya mendeteksi keberadaan agen, teknologi ini dapat mengidentifikasi struktur setiap agen, termasuk model dan perangkat yang digunakannya. Dengan begitu, perusahaan bisa memahami bagaimana agen bekerja sekaligus mengukur kinerja teknis dan nilai bisnis yang dihasilkan.
Perhatian khusus diberikan kepada agen dengan tingkat risiko tinggi, terutama yang berinteraksi langsung dengan pelanggan, mengakses data sensitif, atau menjalankan transaksi.
Untuk kelompok tersebut, sistem menyediakan catatan berkelanjutan mengenai status sertifikasi, risiko yang ditemukan, serta hasil pengujian berkala. Dokumentasi ini dapat menjadi bukti pendukung ketika dibutuhkan manajemen, auditor, maupun regulator.
Keunggulan lainnya terletak pada pendekatan agnostik atau tidak bergantung pada satu vendor. Perusahaan dapat memantau seluruh portofolio agen AI lintas platform, mengidentifikasi agen yang belum terawasi, menemukan titik konsentrasi risiko, hingga menilai apakah biaya operasional sebanding dengan manfaat yang dihasilkan.
Bahkan, tim perusahaan dapat mengajukan pertanyaan menggunakan bahasa sehari-hari untuk memperoleh gambaran menyeluruh mengenai kondisi agen AI yang mereka operasikan.
Dataiku Agent Management mulai tersedia secara umum pada Oktober 2026. Produk ini ditawarkan melalui skema biaya tahunan per instans, dengan besaran pemantauan dihitung berdasarkan jumlah agen AI yang dikelola. * (Syam/Wah)
11 Views
