CoreWeave 雲端服務升級 推出 AI 專用 Python 筆記本
美國人工智慧(AI)雲端運算公司 CoreWeave 於週四宣布,已在其雲端服務中全面支援 Nvidia Vera Rubin 平台,並同步推出 CoreWeave Notebooks 及 Forge AI 開發平台,旨在加速 AI 模型從開發到部署的整個流程。
CoreWeave Notebooks 是一款專為 AI 工作負載設計的 Python 筆記本。這款工具基於開源的 marimo 平台,提供一個互動式開發環境,讓 AI 工程師能即時寫程式(即進行 Python 程式設計,一種廣泛用於人工智慧開發的程式語言)、執行分析並查看結果。其「反應式執行」的特性,能確保程式碼、程式狀態與輸出結果始終保持同步更新,避免過時資料導致判斷失誤。CoreWeave 指出,這項筆記本工具將儲存於專案內部,便於團隊協作與重複使用,並支援 Python 及 SQL 語法,以利分析專案數據。
同時發表的 CoreWeave Forge 則是一個整合性平台,旨在將模型訓練、推理、評估及代理程式開發等環節匯集於單一環境。CoreWeave 產品與工程執行副總裁 Chen Goldberg 表示,AI 代理程式任務涉及大量上下文、重複的模型呼叫及數千個並行任務,這對整個平台構成壓力,因此 CoreWeave 的任務是確保運算、網路與軟體能作為一個整體系統運作。
在硬體支援方面,CoreWeave 的雲端服務現已支援 Nvidia Vera Rubin 平台。AI 公司 Cognition AI 已是首批採用 Vera Rubin 叢集的客戶之一,並表示在 SWE-2 推理工作負載上,Vera Rubin NVL72 的總 Token 處理量(throughput)較 Nvidia GB200 NVL72 基準提高了高達 4.8 倍;在強化學習工作負載中,輸出 Token 處理量也提高了 3.8 倍。這些顯著的效能提升,能讓單一繪圖處理器(GPU)同時處理更多 Devin 工作階段,加速研究週期並降低每次工作階段的成本。
此外,CoreWeave 也將導入 Nvidia 專為 AI 代理程式設計的 Vera CPU,以處理 AI 代理程式工作負載中大量仰賴中央處理器(CPU)的任務。初步部署將以機架規模配置,每個機架包含 128 個 Vera CPU,共計 11,264 個 CPU 核心,並整合 Nvidia BlueField-4 DPUs 及 Spectrum-X Ethernet 交換技術,預計可支援超過 11,000 個並行代理程式環境。Forge 平台目前已上市,並提供 Pro 版本的 30 天免費試用期。
CoreWeave 雲端服務推出了哪些新功能以加速 AI 開發?
CoreWeave 於週四宣布,已在其雲端服務中全面支援 Nvidia Vera Rubin 平台,並推出專為 AI 工作負載設計的 Python 筆記本 CoreWeave Notebooks,以及整合模型訓練、推理、評估及代理程式開發的 CoreWeave Forge AI 開發平台。CoreWeave Notebooks 提供互動式開發環境,具備「反應式執行」特性,確保程式碼、狀態與結果同步更新,並支援 Python 及 SQL 語法,便於團隊協作與重複使用。Forge 平台旨在將 AI 代理程式任務所需的運算、網路與軟體整合為單一系統,以應對大量上下文、重複模型呼叫及數千個並行任務的壓力。
CoreWeave 的新服務在硬體上有哪些支援?
CoreWeave 的雲端服務現已支援 Nvidia Vera Rubin 平台,並將導入 Nvidia Vera CPU 以處理 AI 代理程式工作負載中仰賴中央處理器的任務。初步部署將以機架規模配置,每個機架包含 128 個 Vera CPU,並整合 Nvidia BlueField-4 DPUs 及 Spectrum-X Ethernet 交換技術。
Nvidia Vera Rubin 平台在效能上有何提升?
AI 公司 Cognition AI 表示,在 SWE-2 推理工作負載上,Vera Rubin NVL72 的總 Token 處理量較 Nvidia GB200 NVL72 基準提高了高達 4.8 倍;在強化學習工作負載中,輸出 Token 處理量也提高了 3.8 倍,這能加速研究週期並降低每次工作階段的成本。
CoreWeave Forge 平台目前是否可供使用?
Forge 平台目前已上市,並提供 Pro 版本的 30 天免費試用期。該平台旨在將模型訓練、推理、評估及代理程式開發等環節匯集於單一環境。