Jakarta, Mediaprofesi.id – Penggunaan kecerdasan buatan (AI) di sektor keuangan Indonesia terus meningkat. Namun, di tengah tuntutan inovasi dan kepatuhan regulasi yang semakin ketat, banyak organisasi mulai melirik pendekatan Private AI sebagai solusi yang lebih aman dalam mengelola data sensitif.
Menurut Sherlie Karnidta, Country Manager Indonesia Cloudera, Private AI merupakan pendekatan yang menjaga data dan model tetap berada dalam lingkungan perusahaan. Model ini dinilai sangat relevan bagi industri yang beroperasi di bawah pengawasan regulasi ketat, seperti sektor keuangan.
Data Kamar Dagang dan Industri Indonesia (KADIN) menunjukkan bahwa sektor keuangan termasuk yang paling progresif dalam mengadopsi AI. Teknologi ini dimanfaatkan untuk meningkatkan layanan kepada nasabah sekaligus membuka peluang pengembangan produk dan layanan baru.
Di sisi lain, regulator juga mulai memperkuat pengawasan. Otoritas Jasa Keuangan (OJK) telah menerbitkan pedoman tata kelola penggunaan AI di sektor perbankan yang menegaskan bahwa pengelolaan data AI harus mematuhi Undang-Undang Perlindungan Data Pribadi (UU PDP). Organisasi juga diwajibkan menerapkan perlindungan privasi di setiap tahap pengembangan dan operasional sistem AI.
Meski terdengar menjanjikan, tantangan terbesar Private AI ternyata bukan hanya soal teknologi. Sherlie menilai kesulitan paling besar justru muncul ketika sistem mulai dijalankan di lingkungan produksi.
“Perusahaan harus menentukan bagaimana sistem boleh beroperasi, siapa yang berwenang mengambil keputusan, bagaimana akses data diatur, hingga siapa yang bertanggung jawab jika terjadi kesalahan. Tantangan ini jarang berada di bawah kendali satu tim saja,” ujarnya.
Berbeda dengan layanan Generative AI (GenAI) terkelola yang sebagian besar aspek keamanan dan operasionalnya sudah ditangani penyedia layanan, Private AI menempatkan seluruh kendali sekaligus tanggung jawab di tangan organisasi. Akibatnya, keberhasilan implementasi tidak lagi hanya bergantung pada kecanggihan model AI, tetapi juga kemampuan berbagai tim untuk bekerja secara selaras.
Tantangan Koordinasi Antar Tim
Implementasi Private AI menuntut kolaborasi erat antara data engineer, pengembang AI, tim keamanan, hingga pihak kepatuhan. Semua pihak harus memiliki pemahaman yang sama mengenai data yang boleh digunakan, aturan akses, standar keamanan, serta risiko yang harus dikelola.
Menurut Sherlie, banyak organisasi masih melakukan kesalahan dengan menempatkan tata kelola dan keamanan sebagai tahap akhir proyek. Akibatnya, berbagai celah baru ditemukan menjelang implementasi sehingga memaksa perusahaan melakukan desain ulang yang memakan waktu dan biaya.
Sebaliknya, organisasi yang berhasil biasanya memasukkan aspek keamanan, kepatuhan, dan tata kelola sejak awal pengembangan. Mereka membangun bahasa bersama, standar operasional yang bisa digunakan berulang kali, serta menetapkan indikator yang jelas mengenai kapan sebuah sistem dianggap siap diterapkan.
Private AI Bukan Sekadar Proyek Teknologi
Sherlie menegaskan bahwa Private AI pada dasarnya adalah persoalan eksekusi lintas fungsi. Organisasi yang sukses umumnya memiliki model kerja bersama yang memungkinkan keputusan terkait keamanan, kualitas, dan risiko diambil secara cepat dengan jalur eskalasi yang jelas.
Pendekatan tersebut juga harus terus berlanjut setelah sistem diluncurkan. Sebab, Private AI bukan teknologi yang selesai setelah dirilis. Sistem perlu terus dipantau, diperbarui, dan disesuaikan dengan perubahan kebutuhan bisnis maupun regulasi.
Hal ini menjadi semakin penting seiring berkembangnya agentic AI, di mana sistem tidak lagi sekadar merespons perintah, tetapi mulai mengambil tindakan secara lebih mandiri. Dalam kondisi tersebut, celah kecil dalam pengawasan dapat berkembang menjadi risiko operasional yang jauh lebih besar.
Untuk mengurangi kompleksitas tersebut, Sherlie menilai perusahaan membutuhkan fondasi data yang kuat, tata kelola yang konsisten, serta platform yang mampu menyederhanakan operasional dan kontrol di berbagai use case AI.
“Keberhasilan Private AI tidak ditentukan oleh seberapa banyak talenta AI yang dimiliki perusahaan, melainkan oleh kemampuan organisasi menyelaraskan berbagai fungsi yang terlibat. Ketika bahasa, proses, dan kepemilikan sudah jelas, Private AI dapat berkembang secara lebih terstruktur, aman, dan skalabel,” tutup Sherlie. * (Syam/Pra)
102 Views
