Jakarta, Mediaprofesi.id – Red Hat meluncurkan asago (AI Safety And Governance Orchestration), proyek komunitas open source yang dirancang untuk mengubah policy tata kelola AI menjadi sistem yang siap digunakan di lingkungan produksi.
Inisiatif ini menjembatani kesenjangan antara tim engineering dan compliance yang selama ini kerap bekerja dengan tools, proses, dan persyaratan berbeda. Dengan alur kerja otomatis yang dapat diaudit dan ditelusuri, asago ditujukan untuk mempercepat penerapan AI yang aman dari hitungan bulan atau bahkan tahun menjadi hanya beberapa hari.
Asago dikembangkan melalui kolaborasi Red Hat dan NVIDIA sebagai bagian dari Open Secure AI Alliance. Platform ini menerjemahkan aturan tata kelola AI dan regulasi yang kompleks menjadi kontrol operasional yang dapat diterapkan secara nyata.
Ada empat tahapan utama yang ditawarkan asago. Pertama, pemetaan risiko, dengan membaca policy organisasi dan menghubungkannya dengan kerangka seperti NIST AI RMF, OWASP LLM Top 10, serta EU AI Act melalui IBM AI Risk Atlas.
Kedua, penilaian risiko. Asago menjalankan skenario pengujian yang disesuaikan dengan masing-masing use case untuk mengidentifikasi potensi perilaku berbahaya, bukan sekadar mengandalkan benchmark umum.
Ketiga, mitigasi risiko, melalui rekomendasi guardrails dan langkah pengamanan berdasarkan hasil pengujian. Seluruh proses juga menghasilkan jejak audit yang dapat ditinjau.
Keempat, penerapan di lingkungan produksi. Kontrol yang direkomendasikan dapat diorkestrasi menjadi konfigurasi untuk berbagai lingkungan, termasuk hybrid cloud dan Kubernetes, sehingga mengurangi kebutuhan coding infrastruktur secara manual.
Setiap tahapan dirancang memiliki rekam jejak yang menghubungkan klausul policy dengan pengujian dan kontrol runtime. Dengan begitu, auditor maupun pengelola sistem dapat mengetahui risiko apa yang ditangani oleh setiap kontrol.
Menjembatani Policy dan Engineering
Menurut Red Hat, penerjemahan policy AI secara manual selama ini menjadi salah satu hambatan adopsi AI enterprise. Compliance officer membutuhkan penilaian risiko dan bukti yang dapat diverifikasi, sedangkan platform engineer membutuhkan konfigurasi yang terstruktur dan mudah dikelola melalui praktik DevOps maupun GitOps.
Kondisi tersebut semakin penting seiring munculnya regulasi seperti EU AI Act. Perusahaan perlu menjaga keseimbangan antara kecepatan inovasi dan keamanan agar tidak terjebak dalam proses persetujuan yang panjang atau justru menghadirkan penggunaan AI tanpa pengawasan memadai.
Asago hadir sebagai standar terbuka yang mempertemukan kebutuhan compliance, data scientist, developer, dan administrator infrastruktur. Sistem ini juga ditujukan untuk membantu mengamankan penggunaan large language models (LLM) dan agen AI otonom di lingkungan enterprise.
“Menetapkan guardrails operasional yang jelas menjadi kebutuhan infrastruktur yang sangat penting ketika organisasi beralih dari eksperimen AI menuju agen AI otonom,” ujar Steven Huels, Vice President, AI Engineering, Red Hat.
Ia menambahkan, asago melengkapi upaya Red Hat dalam mengamankan ekosistem AI dengan mengotomatiskan hubungan antara policy perusahaan dan agen AI yang berjalan di lingkungan produksi.
Dibangun secara Terbuka
Asago dirilis dengan Apache License 2.0 dan dirancang sebagai proyek berbasis komunitas. Inisiatif ini melibatkan berbagai organisasi dari industri, akademisi, dan lembaga riset, antara lain Red Hat, NVIDIA, IBM Research, Microsoft, Brave Software, MIT Lincoln Laboratory, North Carolina State University, The Alan Turing Institute, serta sejumlah organisasi lainnya.
Kolaborasi tersebut mencakup bidang keamanan AI, rekayasa software enterprise, adversarial machine learning, hingga kepatuhan terhadap regulasi.
Salah satu fokus asago adalah mengintegrasikan berbagai tools open source sekaligus menutup celah operasional di antara tools tersebut. Sistem ini juga diarahkan untuk menyediakan penelusuran menyeluruh sehingga bukti yang dibutuhkan auditor dapat dikaitkan langsung dengan policy dan kontrol yang diterapkan di lingkungan produksi.
“Tidak ada satu organisasi yang dapat membuat AI aman dan terkelola secara luas sendirian. Dibutuhkan tools terbuka, beragam keahlian, dan tata kelola yang netral,” ujar Jason McEwen, Chief Scientist, The Alan Turing Institute.
Proyek asago saat ini masih dalam tahap pembentukan. Developer, peneliti akademik, dan enterprise early adopter dapat berpartisipasi melalui repository proyek di GitHub serta kanal komunitas asago. * (Syam)
173 Views
