Jakarta, Mediaprofesi.id – Persaingan industri kecerdasan buatan (AI) memasuki babak baru. Akamai Technologies mulai memperkuat posisinya dengan menghadirkan dua produk inti, Akamai Inference dan Akamai Agent Sandbox, yang memungkinkan perusahaan membangun, menjalankan, sekaligus mengamankan aplikasi dan agen AI dalam satu ekosistem cloud.
Kehadiran kedua produk tersebut menjadi langkah strategis Akamai untuk menjawab kebutuhan perusahaan yang mulai membawa teknologi AI ke tahap produksi. Pasalnya, menjalankan AI dalam skala bisnis tidak cukup hanya mengandalkan model canggih. Perusahaan juga membutuhkan infrastruktur komputasi, akses data internal, pengelolaan model, hingga sistem keamanan yang mampu mengendalikan aktivitas agen AI.
Melalui Akamai Cloud, seluruh kebutuhan tersebut kini dapat diintegrasikan dalam satu platform. Infrastruktur ini menggabungkan CPU, GPU, penyimpanan cloud, jaringan, serta layanan edge yang tersebar di lebih dari 4.350 lokasi di seluruh dunia.
Strategi tersebut juga ditopang momentum bisnis yang kuat. Akamai Cloud telah memperoleh kontrak multi-tahun dengan nilai kumulatif lebih dari US$14 miliar, mencerminkan meningkatnya kebutuhan perusahaan terhadap infrastruktur cloud dan AI.
“Kami telah menjalankan strategi infrastruktur AI berdasarkan keyakinan bahwa AI inference akan menjadi fokus utama dan area investasi terbesar bagi perusahaan,” ujar Adam Karon, Chief Operating Officer dan General Manager Akamai Cloud.
Menurutnya, pelanggan kini menginginkan platform terpadu untuk membangun, menjalankan, dan melindungi AI tanpa harus merakit berbagai komponen dari penyedia berbeda.
Akamai Inference, akses model AI tanpa rumit
Produk pertama, Akamai Inference, memberikan akses terkelola ke berbagai model open-weight maupun model khusus melalui API yang kompatibel dengan OpenAI. Dengan demikian, perusahaan dapat mengintegrasikan teknologi tersebut ke aplikasi yang sudah digunakan tanpa harus menulis ulang sistemnya.
Layanan ini menawarkan dua pilihan, yakni inference tanpa server dengan skema pembayaran sesuai pemakaian (pay-per-use) dan penerapan khusus (dedicated).
Saat peluncuran, tersedia 12 model open-weight dengan ukuran mulai dari 8 miliar hingga 2,8 triliun parameter. Di antaranya NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, Google Gemma 4, serta model embedding untuk kebutuhan retrieval-augmented generation (RAG).
Akamai juga menghubungkan layanan ini dengan basis data terkelola dan penyimpanan objek sehingga model dapat memanfaatkan data internal perusahaan. Pengelolaan orkestrasi, eksekusi model, dan autentikasi ditangani dalam platform yang sama.
Agent Sandbox, pagar pengaman bagi agen AI
Produk kedua, Akamai Agent Sandbox, menyasar kebutuhan keamanan ketika agen AI mulai menjalankan tugas, mengambil tindakan, hingga menulis dan mengeksekusi kode secara mandiri.
Teknologi ini menyediakan lingkungan eksekusi terisolasi agar kode yang dibuat agen AI tidak bebas mengakses sistem di luar batas yang ditentukan.
Dengan teknologi isolasi WebAssembly, pengembang dapat menetapkan batas penggunaan komputasi, memori, koneksi keluar, serta kapabilitas sistem. Agen berjalan melalui Akamai Functions, sementara kode yang dihasilkannya dieksekusi dalam lingkungan terpisah.
Akamai juga menyediakan pilihan arsitektur lain, mulai dari microVM, kontainer berbasis kebijakan, hingga fungsi WebAssembly. Pendekatan ini memberi perusahaan keleluasaan menyesuaikan sistem keamanan dengan kebutuhan operasional masing-masing.
Perkuat senjata dengan GPU NVIDIA Blackwell Ultra
Untuk mendukung kebutuhan komputasi AI yang semakin berat, Akamai turut memperluas infrastruktur GPU dengan menghadirkan klaster NVIDIA Blackwell Ultra.
Setiap node yang terdiri dari delapan GPU memiliki kapasitas memori HBM3e sebesar 288 GB per GPU atau total 2,3 TB. Kapasitas tersebut dirancang untuk menangani model AI berskala besar, termasuk kebutuhan penalaran kompleks dan pemrosesan konteks panjang.
Akamai juga menyiapkan infrastrukturnya untuk mendukung platform NVIDIA Vera Rubin pada 2027. Sementara itu, GPU NVIDIA RTX PRO 6000 Blackwell Server Edition turut menjadi bagian dari pilihan komputasi untuk kebutuhan inference berlatensi rendah.
Menurut Jon Alexander, Senior Vice President Cloud Technology Akamai, perusahaan kini dapat memilih antara layanan AI terkelola maupun GPU khusus sesuai kebutuhan, tanpa harus mengorbankan kecepatan dan kendali operasional.
Akamai Agent Sandbox melalui Spin SDK dan Akamai Inference saat ini telah tersedia dalam versi beta. Khusus Akamai Inference, versi beta sudah mencakup opsi penerapan tanpa server. Adapun informasi ketersediaan klaster GPU NVIDIA B300 dapat diperoleh melalui tim penjualan Akamai. * (Syam/Wah)
3 Views
