Akamai Technologies meluncurkan Akamai Cloud Inference, platform inferensi AI terdistribusi yang dirancang untuk memindahkan pemrosesan AI dari pusat data ke edge internet sehingga inferensi berjalan lebih dekat dengan pengguna dan perangkat.
Dengan memanfaatkan jaringan edge global Akamai yang sangat luas dan infrastruktur NVIDIA Blackwell, termasuk GPU NVIDIA RTX PRO 6000 Blackwell Server Edition dan DPU BlueField, platform ini menyediakan inferensi berlatensi rendah, aman, dan skalabel untuk aplikasi generatif, agen cerdas, dan sistem AI fisik.
Pendekatan ini memungkinkan pengalaman digital yang lebih responsif dan personal karena permintaan diproses di lokasi yang paling relevan secara kontekstual, bukan harus selalu balik ke pusat data terpusat.
Salah satu nilai utama Akamai Cloud Inference adalah kemampuannya mendukung agentic AI dan AI Factories perusahaan dengan memperluas fungsi-fungsi AI ke edge. AI Factories yang sebelumnya berfokus di pusat komputasi kini dapat didesentralisasi sehingga agen-agen cerdas dapat menyesuaikan tindakan berdasarkan lokasi dan perilaku pengguna secara real time, misalnya melakukan negosiasi, transaksi, atau optimasi otomatis tanpa mengalami latensi yang mengganggu.
Platform tersebut juga menawarkan streaming inference yang memungkinkan beberapa panggilan inferensi berurutan berjalan cepat, hal yang penting untuk kasus seperti deteksi penipuan, pemrosesan pembayaran, dan pengambilan keputusan finansial instan.
Aplikasi AI fisik menjadi lebih aman dan efektif berkat kemampuan pemrosesan millisecond-level di edge; kendaraan otonom, robot industri, drone pengiriman, dan infrastruktur kota pintar dapat membuat keputusan cepat berdasarkan data sensor lokal tanpa tergantung sepenuhnya pada round-trip ke cloud.
Di sisi operasional, lapisan orkestrasi cerdas Akamai secara otomatis merutekan tugas ke lokasi paling optimal, inferensi rutin dieksekusi di edge melalui layanan mikro NVIDIA NIM, sementara penalaran lebih kompleks tetap dipusatkan di AI Factories, menyederhanakan manajemen beban kerja terdistribusi.
Akamai Cloud Inference sudah mulai diterapkan di 20 lokasi awal dengan rencana ekspansi bertahap. Inisiatif ini menegaskan langkah strategis Akamai bekerja sama dengan NVIDIA untuk membuka cakupan baru bagi aplikasi AI generatif dan agen cerdas, sekaligus menghadirkan performa, keamanan, dan skalabilitas yang dibutuhkan oleh solusi AI generasi berikutnya.
