Ketahui Bagaimana Akamai Cloud Inference Permudah Pengembangan AI Bantu bisnis berkembang pesat

Selasa, 3 Juni 2025 oleh journal

Akamai Cloud Inference: Solusi Mudah untuk Kembangkan AI Anda

Di era kecerdasan buatan (AI) yang berkembang pesat, mengembangkan aplikasi AI yang andal dan efisien menjadi semakin penting. Akamai, perusahaan terkemuka di bidang keamanan siber dan cloud computing, memperkenalkan Akamai Cloud Inference, sebuah solusi yang dirancang untuk mempercepat dan mempermudah proses inovasi AI. Dengan Akamai Cloud Inference, mengubah model prediktif dan large language model (LLM) menjadi tindakan nyata menjadi lebih mudah dari sebelumnya.

Adam Karon, COO dan GM Cloud Technology Group di Akamai, menjelaskan bahwa meskipun pelatihan LLM akan terus berlangsung di pusat data hyperscale yang besar, inferensi (proses pengambilan kesimpulan dari data) yang dapat ditindaklanjuti akan terjadi di edge. "Platform yang telah dibangun Akamai selama lebih dari dua dekade menjadi sangat penting untuk masa depan AI, dan inilah yang membedakan kami dari penyedia cloud lainnya," ujarnya dalam keterangan yang diterima pada Sabtu (31/5/2025).

Akamai Cloud Inference menawarkan berbagai keunggulan bagi para engineer dan pengembang platform. Solusi ini diklaim mampu meningkatkan throughput hingga 3x dan mengurangi latensi hingga 2,5x. Lebih lanjut, perusahaan-perusahaan dapat menghemat hingga 86% dalam biaya inferensi AI dan beban kerja AI agentic dibandingkan dengan infrastruktur hyperscale tradisional.

Fitur Utama Akamai Cloud Inference:

• Komputasi: Akamai Cloud menyediakan berbagai pilihan komputasi, mulai dari CPU klasik untuk inferensi yang dioptimalkan, hingga opsi komputasi dipercepat seperti GPU dan VPU ASIC yang disesuaikan untuk menangani berbagai tantangan inferensi AI. Integrasi dengan ekosistem AI Enterprise Nvidia, termasuk Triton, TAO Toolkit, TensorRT, dan NVFlare, memaksimalkan kinerja inferensi AI pada GPU NVIDIA.
• Manajemen Data: Dengan fabrik data mutakhir yang dirancang khusus untuk beban kerja AI modern, Akamai memungkinkan pelanggan memanfaatkan potensi penuh inferensi AI. Kemitraan dengan VAST Data memberikan akses mudah ke data real-time, mempercepat tugas-tugas inferensi, dan menghasilkan hasil yang relevan serta pengalaman yang responsif.
• Kontainerisasi: Kontainerisasi beban kerja AI meningkatkan kapasitas secara otomatis sesuai permintaan, meningkatkan ketahanan aplikasi, dan memungkinkan portabilitas hybrid/multicloud. Kubernetes memungkinkan Akamai memberikan inferensi AI yang lebih cepat, lebih murah, dan lebih aman dalam skala petabyte.
• Komputasi Edge: Akamai AI Inference menyertakan kemampuan WebAssembly (WASM) untuk menyederhanakan pengembangan aplikasi berbasis AI. Melalui kolaborasi dengan penyedia WASM seperti Fermyon, pengembang dapat menjalankan inferensi untuk LLM langsung dari aplikasi tanpa server, sehingga aplikasi dengan latensi rendah dapat didukung dengan kode ringan di edge.

Kombinasi semua fitur ini menciptakan platform yang kuat untuk aplikasi berbasis AI dengan latensi rendah, memungkinkan perusahaan memberikan pengalaman yang diinginkan pengguna. Akamai Cloud Inference berjalan di platform cloud Akamai yang sangat terdistribusi, mampu mengirimkan lebih dari satu petabyte per detik untuk beban kerja yang membutuhkan data intensif. Dengan lebih dari 4.200 titik kehadiran di lebih dari 1.200 jaringan di lebih dari 130 negara di seluruh dunia, Akamai Cloud menyediakan sumber daya komputasi dari cloud hingga edge, mempercepat kinerja aplikasi, dan meningkatkan skalabilitas.

"Melatih LLM itu seperti membuat peta: Anda mengumpulkan data, menganalisis medan, dan merencanakan rute. Proses ini lambat dan membutuhkan banyak sumber daya, tetapi hasilnya sangat berguna. Inferensi AI itu seperti menggunakan GPS, langsung menerapkan pengetahuan itu, menghitung ulang secara real-time, dan beradaptasi dengan perubahan untuk membawa Anda ke tempat yang Anda tuju," pungkas Karon.