Akamai mengumumkan dua produk fondasi untuk tumpukan AI-nya pada 27 Oktober 2026: Akamai Inference dan Akamai Agent Sandbox. Keduanya kini tersedia dalam versi beta di Akamai Cloud, dan dirancang menjawab dua pertanyaan yang kini dihadapi hampir semua perusahaan: di mana model AI dijalankan dengan efisien, dan seberapa aman kode yang ditulis agen AI saat dieksekusi.
Menurut Akamai, kedua layanan ini melengkapi infrastruktur AI yang sudah dibangunnya — dari klaster GPU dan CPU di wilayah inti hingga lebih dari 4.350 lokasi edge — sehingga perusahaan bisa membangun, menjalankan, dan melindungi aplikasi serta agen AI dalam satu platform. Perusahaan juga mengklaim bisnis cloud-nya telah mengantongi kontrak multiyear senilai total lebih dari US$14 miliar.
Akamai Inference: model siap pakai lewat API
Akamai Inference memberi perusahaan akses terkelola ke model open-weight dan model kustom melalui API yang kompatibel dengan OpenAI, sehingga aplikasi yang sudah ditulis untuk endpoint sejenis bisa berpindah tanpa menulis ulang kode. Pelanggan bisa memilih inference serverless bayar sesuai pakai atau deployment khusus.
Katalog peluncurannya berisi 12 model open-weight dengan rentang 8 miliar hingga 2,8 triliun parameter, termasuk NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4, plus model embedding untuk retrieval-augmented generation (RAG). Layanan ini juga terhubung ke database terkelola dan object storage Akamai Cloud, serta ke platform cloud privat dan publik, sehingga model bisa memakai data perusahaan sendiri.
Akamai Agent Sandbox: batas keras untuk kode agen
Agent Sandbox adalah lingkungan eksekusi terisolasi untuk kode yang ditulis agen AI. Kode agen berjalan terpisah dari runtime agen, dengan isolasi berbasis WebAssembly (memakai framework Fermyon Spin yang diakuisisi Akamai) yang membatasi komputasi, memori, koneksi keluar, dan kemampuan sistem. Akamai juga berencana menambah kontrol atas apa saja yang boleh diakses agen.
Seperti dirumuskan Jon Alexander, Senior Vice President Cloud Technology Akamai: setiap tim yang menjalankan agen membutuhkan batas di sekeliling kode yang ditulis agen itu. Prinsip ini berlaku bahkan bila Anda tidak membeli Akamai: jangan biarkan agen menjalankan kode tanpa tinjauan terhadap sistem produksi dan akun nyata.
Kenapa inference jadi bottleneck baru
Pelatihan model menyedot perhatian publik, tetapi sebagian besar biaya dan beban kerja perusahaan justru terjadi saat model melayani pengguna — itulah inference. COO Akamai Adam Karon menyatakan keyakinan perusahaan bahwa inference akan menyerap sebagian besar minat dan investasi korporat. Klaim ini masuk akal secara ekonomi: satu model yang dilatih sekali bisa melayani jutaan permintaan setiap hari, dan setiap permintaan itu butuh komputasi, latensi rendah, dan keamanan.
Keunggulan Akamai di sini adalah jangkauan geografis: inference yang dekat dengan pengguna dan data bisa memangkas latensi, sementara portofolio keamanannya melindungi setiap lapisan. Pesaingnya adalah hyperscaler yang terkonsentrasi di puluhan region dan spesialis inference tanpa waralaba keamanan.
Pasangan dari Netra Runtime: inference lokal vs global
Peluncuran ini adalah pasangan enterprise dari Netra Runtime asal Indonesia: dua sisi mata uang yang sama. Netra menawarkan runtime inference lokal yang diklaim lebih cepat, Akamai menawarkan inference global di atas jaringan edge raksasa. Perusahaan Indonesia kini bisa membandingkan keduanya: latensi dan kedaulatan data di satu sisi, skala dan jangkauan global di sisi lain.
Pertanyaan yang sering ditanyakan
Apa itu Akamai Inference?
Layanan managed model serving di Akamai Cloud: akses terkelola ke model open-weight dan kustom lewat API kompatibel OpenAI, dengan opsi serverless atau dedicated.
Apa itu Akamai Agent Sandbox?
Lingkungan eksekusi terisolasi berbasis WebAssembly untuk kode yang ditulis agen AI, agar kode itu tidak menyentuh sistem di luar batas yang ditentukan.
Apakah kedua produk ini sudah final?
Belum. Keduanya tersedia dalam versi beta saat peluncuran, dan Akamai belum mengumumkan harga.
Gambar unggulan: rak server di pusat data, oleh Sergei Starostin (Pexels, ilustrasi umum — bukan foto produk atau dokumentasi resmi Akamai).













