Red Hat mengumumkan peluncuran Red Hat AI 3.4, platform yang dirancang untuk mempermudah organisasi beralih dari eksperimen AI menuju penerapan agentic AI pada skala produksi.

Rilis ini menghadirkan fondasi terpadu dari level perangkat keras hingga agen, dengan tujuan menyederhanakan pengembangan, pengelolaan, dan operasi alur kerja agen otonom di lingkungan hybrid cloud.

Model-as-a-Service dan Inferensi Terdistribusi

Salah satu fitur inti Red Hat AI 3.4 adalah Model-as-a-Service (MaaS), yang menyediakan antarmuka tunggal dan terkelola bagi pengembang untuk mengakses model terkurasi. Administrator dapat melacak konsumsi data dan menegakkan kebijakan tata kelola melalui layanan ini.

Kapabilitas MaaS dibangun di atas mekanisme inferensi terdistribusi berkinerja tinggi yang mengandalkan vLLM dan llm-d, sehingga mempertahankan layanan model yang optimal dan efisien di berbagai lingkungan.

AgentOps, Tracing, dan Observability

Platform ini menambahkan perangkat AgentOps untuk mengelola siklus hidup agen — dari pengembangan hingga produksi — dengan fitur tracing terintegrasi, observability, identitas kriptografis, dan manajemen siklus hidup.

Ketika agen AI memicu lonjakan permintaan inferensi, Red Hat AI 3.4 dirancang untuk memungkinkan penerapan dan pengelolaan agen dalam skala besar tanpa bergantung pada satu framework tertentu.

Manajemen Prompt, Evaluasi, dan Keamanan

Red Hat AI 3.4 memperkenalkan manajemen prompt yang memandang prompt sebagai aset data, serta sebuah evaluation hub untuk menilai akurasi, kualitas, dan keamanan model maupun agen.

Platform ini mendukung pelacakan eksperimen dan manajemen artefak melalui MLflow, serta menyediakan pengujian keamanan otomatis dan red-teaming untuk model dan agen. Implementasi pengujian keamanan tersebut menggunakan teknologi dari Chatterbox Labs dan proyek Garak.

Integrasi Dan Kolaborasi Infrastruktur

Red Hat menyatakan bahwa kolaborasi dengan penyedia infrastruktur lain, seperti CoreWeave, bertujuan menghadirkan fondasi inferensi berkinerja tinggi yang memungkinkan organisasi menskalakan beban kerja AI kompleks.

Ihram.co.id — “Era agentic merepresentasikan evolusi platform kami, dari yang sebelumnya menjalankan aplikasi tradisional menjadi penggerak sistem otonom yang cerdas,” kata Joe Fernandes, Vice President dan General Manager, AI Business Unit, Red Hat.

“Kami mendefinisikan standar terbuka tentang bagaimana enterprise mengeksekusi AI. Dengan menyediakan fondasi yang diperkuat dari level perangkat keras hingga agen untuk inferensi AI, MaaS, dan AgentOps, Red Hat memberikan kepastian operasional yang dibutuhkan organisasi untuk berinovasi dalam skala besar sembari mempertahankan kendali yang ketat,” tambahnya.

Visibilitas, Audit, Dan Identitas

Red Hat AI 3.4 menyediakan infrastruktur untuk menelusuri tindakan agen, tahapan penalaran, dan pemanggilan tool sehingga organisasi dapat mengaudit proses pengambilan keputusan agen. Integrasi manajemen identitas kriptografis mengaitkan setiap tindakan dengan identitas terverifikasi.

Menurut Red Hat, kapabilitas ini dimaksudkan untuk menjembatani kesenjangan antara tim pengembang dan administrator infrastruktur, serta mengurangi risiko akibat kurangnya visibilitas dan tata kelola.

“Agent otonom yang beroperasi dalam durasi panjang di lingkungan enterprise menuntut tingkat kendali infrastruktur dan keamanan yang baru untuk memastikan operasional yang dapat dipercaya dalam skala besar,” ujar John Fanelli, Vice President, Enterprise Software, NVIDIA.

Secara keseluruhan, Red Hat AI 3.4 ditampilkan sebagai fondasi arsitektural dan instrumen operasional untuk menskalakan model dan alur kerja agentic di lingkungan hybrid cloud, dengan fokus pada kendali, keamanan, dan efisiensi perangkat keras.