Akamai Inference Cloud 能夠在靠近用戶和設備的邊緣實現智能化的智能體 AI 推理。與傳統系統不同，該平臺是專為在全球范圍內提供低延遲、實時邊緣 AI 處理而打造的。此次推出的 Akamai Inference Cloud 依托 Akamai 在全球分布式架構方面的專業能力以及 NVIDIA Blackwell AI 基礎架構，對釋放 AI 真正潛力所需的加速計算進行了顛覆性的重構與擴展。
從個性化數字體驗、智能體到實時決策系統，下一代的 AI 應用程序迫切要求將 AI 推理部署在更靠近用戶的位置，從而在用戶的交互點實現即時互動，并就請求的路由路徑做出智能決策。智能體工作負載日益需要低延遲推理、本地環境感知以及即時進行全球擴展的能力。專為推動此變革而打造的 Akamai Inference Cloud 是一個分布式、生成式邊緣平臺，它可以將 NVIDIA AI 技術棧部署在更靠近數據生成和決策制定的位置。
Akamai首席執行官兼聯合創始人Tom Leighton博士表示："下一波AI浪潮的發展同樣需要靠近用戶——這正是互聯網能夠擴展為今天廣泛應用的全球平臺的原因。Akamai過去曾成功解決過這一難題，如今我們再次應對這一課題。依托NVIDIA的AI基礎設施，Akamai Inference Cloud將通過部署在全球數千個節點的AI決策能力，來滿足日益增長的AI推理算力與性能擴展的需求，從而實現更快速、更智能以及更安全的響應。"
NVIDIA創始人兼首席執行官黃仁勛指出："推理已成為AI中計算最密集的環節——需要在全球范圍內進行實時推理。NVIDIA與Akamai共同協作正在將推理能力部署更靠近每一位用戶，提供更快速、可擴展性更強的生成式AI服務，釋放新一代智能應用的潛力。"
Akamai Inference Cloud 通過將智能化的智能體 AI 推理擴展到更靠近用戶和設備的位置，重新定義了應用 AI 的場景和方式。該平臺將 NVIDIA RTX PRO Server（配備 NVIDIA RTX PRO 6000 Blackwell 服務器版 GPU、NVIDIA BlueField-3 DPU 和 NVIDIA AI Enterprise 軟件）與 Akamai 的分布式云計算基礎架構及在全球擁有超過 4,200 個位置的全球邊緣網絡相結合。Akamai Inference Cloud 將充分利用 NVIDIA 最新的技術（包括最近發布的 NVIDIA BlueField-4 DPU）來進一步加速和保護從核心到邊緣的數據訪問及 AI 推理工作負載，以推動 Akamai 實現其打造全球高度可擴展、分布式 AI 性能的愿景。
Akamai 與 NVIDIA 共同協作，通過 Akamai Inference Cloud，以前所未有的大膽舉措將 AI 推理拓展至全新領域，共同開創 AI 的新篇章：
● 將企業級 AI 工廠擴展到邊緣，以賦能商業智能體并實現個性化的數字體驗：AI 工廠是強大的動力引擎，負責統籌管理從數據提取到大規模生成智能的整個 AI 生命周期。Akamai Inference Cloud 將 AI 工廠擴展到邊緣，實現數據和處理的去中心化，并利用 Akamai 的大規模分布式邊緣位置將請求路由至最優模型。這將使智能體能夠即時適應用戶的位置、行為和意圖，并自主地實時完成協商、購買和交易優化。
● 賦能流式推理和智能體，以提供即時金融見解并執行實時決策：AI 智能體需要多次連續推理才能完成復雜的任務，這會產生延遲，進而削弱用戶參與度。智能體 AI 工作流程需要多次推理調用，而如果每次調用都會產生網絡延遲，那么將導致體驗出現遲滯，或者響應過慢而無法滿足機器對機器的延遲要求。Akamai Inference Cloud 的邊緣原生架構可提供近乎即時的響應，使 AI 智能體能夠在多步驟工作流程中以媲美人類的響應速度運行。這在欺詐檢測、加快安全支付速度以及為工業邊緣實現高速決策方面非常有用。
● 使實時實體 AI 能夠以超越人類的響應速度運行：無人駕駛汽車、工業機器人和智慧城市基礎設施等實體 AI 系統需要毫秒級精度的決策能力，才能安全地與現實世界進行交互。Akamai Inference Cloud 旨在為實體 AI 賦能，使其能夠實時處理傳感器數據、制定安全決策以及協調行動。這有助于將從工廠車間、配送無人機到手術機器人和無人駕駛交通網絡的一切，轉變為能夠與人類進行安全協作、響應迅速的智能系統。
● 加快價值實現速度：在多個云區域中編排復雜的分布式 AI 工作負載需要專業的技能和團隊。Akamai Inference Cloud 的智能編排層會自動將 AI 任務路由到最優位置——常規推理會在邊緣通過 NVIDIA NIM 微服務即時執行，而復雜的推理會利用集中式的 AI 工廠，所有這些都通過統一的平臺進行管理，從而消除了基礎架構的復雜性。
Akamai Inference Cloud 現已推出，首批將覆蓋全球 20 個地點，并且正在計劃進一步擴大部署范圍。
