商傳媒｜吳承岳／台北報導

人工智慧（AI）開發工具新創公司 RadixArk Inc. 近日宣布，已完成一輪 1 億美元的種子輪融資，公司估值達到 4 億美元。這筆資金由輝達（Nvidia）旗下的 NVentures 創投基金與星火資本（Spark Capital）共同領投，並獲得超微半導體（AMD）、Databricks 以及博通（Broadcom Inc.）執行長陳福陽（Hock Tan）等業界巨擘的參與支持，顯示出半導體龍頭企業對 AI 軟體工具領域的強烈興趣。

RadixArk 致力於開發商業 AI 開發工具，其核心技術來自於兩項開源專案：Miles 和 SGLang。其中，Miles 專為強化學習專案設計，可將具兆級參數的大型語言模型（LLM）壓縮至單一高階繪圖處理器（GPU）的記憶體中，顯著降低訓練成本。此工具已於去年 11 月開源。

另一項技術 SGLang 則聚焦於 AI 推論效能優化。SGLang 透過重用 KV 快取（KV cache）資料，能有效加速提示詞（prompt）的反應時間，並降低基礎設施的營運成本。該工具還採用推測解碼（speculative decoding）技術，將部分任務轉移至較輕量化的模型，並能將運算分散至不同架構的晶片，進一步提升模型效能。據 RadixArk 指出，SGLang 目前已為總計超過 40 萬張繪圖處理器組成的 AI 叢集提供支援。

觀察輝達與超微等硬體巨頭積極投資 AI 軟體工具新創，此舉預示著 AI 產業鏈將更著重軟硬體之間的深度整合。隨著大型語言模型日益複雜，硬體效能的提升必須搭配高效的軟體工具，才能將 AI 模型的訓練與推論成本最佳化。

這股趨勢對台灣半導體產業及相關供應鏈而言，可能帶來新的機會與挑戰。作為全球高階 AI 晶片的主要供應者，台灣的晶圓代工廠如台積電，將可能受惠於對效能更優異、更具成本效益的 AI 硬體需求增加。同時，這也促使台灣相關產業鏈需持續關注 AI 軟體生態系的發展，以確保其硬體設計能與最新的 AI 工具同步演進，維持在全球 AI 供應鏈中的領先地位。