Jakarta, Mediaprofesi.id – Red Hat, penyedia solusi open source terkemuka di dunia, baru-baru ini mengumumkan Red Hat AI Factory with NVIDIA, sebuah platform software hasil engineering bersama yang menggabungkan Red Hat AI Enterprise dan NVIDIA AI Enterprise untuk menghadirkan solusi AI end-to-end, dioptimalkan bagi organisasi yang menerapkan AI dalam skala besar.
Red Hat AI Factory with NVIDIA adalah pencapaian terbaru dari kolaborasi yang erat kedua perusahaan, untuk mempercepat penyediaan inovasi AI terbaru bagi pelanggan enterprise sekaligus memberikan dukungan sejak awal (Day 0) untuk arsitektur hardware NVIDIA.
Chris Wright, chief technology officer dan senior vice president, Global Engineering, Red Hat mengatakan, “Peralihan dari fase eksperimen AI ke fase produksi AI berskala industri membutuhkan perubahan mendasar dalam cara kita mengelola komputasi AI stack. Melalui Red Hat AI Factory with NVIDIA, kami mempercepat proses implementasi AI dan membantu organisasi bergerak lebih cepat ke lingkungan produksi. Dengan fondasi yang stabil dan berperforma tinggi, yang didorong oleh solusi hybrid cloud kami yang telah terbukti, kami memungkinkan pelanggan mengendalikan strategi AI mereka sendiri serta menskalakannya dengan tingkat kekuatan yang sama seperti platform IT inti mereka.”
Belanja enterprise untuk AI diperkirakan mencapai lebih dari US$1 triliun pada 2029, sebagian besar didorong oleh aplikasi agentic AI. Oleh sebab itu, organisasi akan mulai mengubah strategi mereka menuju alur kerja agentic yang high-density, dan memenuhi permintaan kemampuan inference dan infrastruktur AI. Untuk membantu organisasi mengikuti perkembangan ini, Red Hat AI Factory with NVIDIA memberdayakan tim operasional IT untuk menyederhanakan pengelolaan, baik infrastruktur tradisional maupun permintaan AI stack yang terus berkembang.
Justin Boitano, vice president, Enterprise AI Platforms, NVIDIA menyatakan, “Perusahaan-perusahaan kini membangun AI factory yang mengubah data menjadi kecerdasan dalam skala besar pada tahap inference, sehingga membutuhkan infrastruktur dan software tingkat produksi yang mencakup hybrid cloud. Red Hat AI Factory with NVIDIA menyediakan fondasi software yang membantu organisasi mengikuti pesatnya inovasi infrastruktur sekaligus secara andal membangun dan menerapkan aplikasi agentic AI generasi berikutnya.”
Red Hat AI Factory with NVIDIA mempercepat perjalanan menuju AI yang siap produksi sekaligus menghadirkan platform software untuk AI factory, yang berjalan di atas infrastruktur komputasi terakselerasi guna mendorong performa yang lebih tinggi bagi model AI serta GPU NVIDIA yang menjalankan inference stack. Platform ini didukung oleh infrastruktur AI factory dari berbagai produsen sistem terkemuka, termasuk Cisco, Dell Technologies, Lenovo, dan Supermicro. Hal ini memungkinkan administrator IT dan tim operasional untuk meningkatkan skala dan mengelola implementasi AI dengan kekuatan operasional dan prediktabilitas yang sama seperti beban kerja enterprise lainnya.
Platform software hasil engineering bersama ini mengintegrasikan kolaborasi open source, keahlian engineering, serta dukungan ahli, baik dari Red Hat dan NVIDIA, untuk menghadirkan solusi enterprise tepercaya. Red Hat AI Factory with NVIDIA menyediakan fondasi yang sangat skalabel untuk implementasi AI di berbagai lingkungan, baik di on-premises, cloud, maupun di edge. Platform ini mencakup kemampuan inti untuk inference AI berperforma tinggi, penyesuaian model, kustomisasi, serta implementasi dan pengelolaan agen AI, dengan fokus yang kuat pada aspek keamanan. Pendekatan ini memungkinkan organisasi mempertahankan kontrol arsitektur pusat data hingga public cloud, sekaligus menghadirkan berbagai manfaat sebagai berikut:
- Time-to-value yang lebih cepat: Organisasi dapat mempercepat transisi menuju AI yang siap produksi melalui alur kerja yang lebih efisien serta akses langsung ke model yang sudah dikonfigurasi sebelumnya, termasuk seri IBM Granite yang memiliki perlindungan indemnifikasi, NVIDIA Nemotron, serta model terbuka NVIDIA Cosmos yang disediakan dalam bentuk NVIDIA NIM microservices. Selain itu, organisasi dapat menyelaraskan model dengan data enterprise menggunakan NVIDIA NeMo, sehingga mengurangi waktu dan biaya tuning.
- Performa dan efisiensi biaya yang dioptimalkan: Memaksimalkan pemanfaatan infrastruktur serta meningkatkan performa inference melalui serving stack terpadu dan berperforma tinggi. Red Hat AI Factory with NVIDIA menghadirkan kemampuan observability bawaan serta memanfaatkan kemampuan inference Red Hat AI yang didukung oleh vLLM, NVIDIA TensorRT-LLM, dan NVIDIA Dynamo untuk mencapai target layanan AI yang ketat. Pendekatan ini membantu organisasi menurunkan total biaya kepemilikan (TCO) untuk AI dengan mengoptimalkan koneksi antara model dan GPU NVIDIA.
- Orkestrasi GPU cerdas: Memberikan akses ke sumber daya GPU sesuai kebutuhan melalui orkestrasi cerdas dan infrastruktur sumber daya bersama (pooled infrastructure), dengan kemampuan checkpointing otomatis untuk melindungi pekerjaan komputasi yang berjalan lama serta menjaga biaya komputasi tetap lebih terprediksi di lingkungan yang dinamis.
- Postur keamanan enterprise yang lebih kuat: Dengan memanfaatkan fondasi Red Hat Enterprise Linux yang fleksibel dan stabil, organisasi memperoleh kemampuan keamanan yang lebih canggih dan kepatuhan yang terintegrasi sejak awal, sehingga membantu mengurangi risiko, menghemat waktu, dan meminimalkan downtime. Hal ini menghadirkan fondasi keamanan yang diperkuat untuk beban kerja AI yang sangat penting dan memerlukan isolasi dan verifikasi berkelanjutan. NVIDIA DOCA microservices melengkapi fondasi ini dengan membangun arsitektur zero-trust dan menghadirkan keamanan runtime AI di seluruh infrastruktur.
Ketersediaan
Red Hat AI Factory with NVIDIA kini sudah tersedia. * (Syam)
41 Views
