商傳媒|責任編輯/綜合外電報導

AI 晶片新創公司 Ambient Scientific 近期發表一項突破性技術——名為 DigAn 的專利類比記憶體運算架構,旨在解決當前 AI 運算中資料搬移造成的龐大能源耗損。這項技術透過將類比乘法累積單元直接嵌入 SRAM 記憶體中,大幅減少資料在處理器與記憶體之間來回移動的頻率,從而提升運算效率。

Ambient Scientific 的產品負責人 Saharsh Singhania 指出,傳統的運算架構,如 x86、ARM、RISC 和 GPU,在數十年前設計時並未考量到人工智慧運算的大量數學密集型工作負載。這導致 AI 運算中高達 70% 至 75% 的能源,實際上是浪費在資料移動而非實際計算上。為了擺脫 AI 對雲端運算的過度依賴,Ambient Scientific 從底層電路設計著手,將運算邏輯整合至記憶體內,並最佳化用於乘法累積(MAC)運算的 CubicCore™ AI 核心。

該公司首款量產晶片 GPX10,專為電池供電的邊緣 AI 應用設計,號稱在功耗、效能和面積(PPA)方面,較傳統 32 位元微控制器有 100 倍的改善。GPX10 支援標準的 TensorFlow 和 PyTorch 開發流程,讓開發者能以熟悉的工具鏈進行程式設計。此外,GPX10 還整合了專有的 SenseMesh™ 硬體感測器融合層和 Model Forge 軟體層,讓 AI 核心能依據應用需求,動態調整運作模式,在低功耗與高效能之間彈性切換。

Ambient Scientific 強調,AI 加速器的真正效能應以資料移動效率為衡量基準,而非單純的理論運算次數(TOPS)。他們所發布的數字均為「有效 TOPS」,代表晶片實際能達成的運算表現。公司認為,需要與現實世界互動的「實體 AI」(Physical AI),例如無人機、機器人或工業自動化應用,因對延遲高度敏感且網路連線可靠性不足,無法依賴雲端架構擴展。

GPX10 的目標市場涵蓋穿戴式裝置、智慧戒指、工業自動化、智慧家庭保全和醫療設備等。Ambient Scientific 已與原始設備製造商(OEM)合作,將 AI 應用於智慧戒指的即時心律不整偵測等關鍵生命監測功能,這類應用無法承受雲端延遲。透過在地處理敏感資料,該技術也能強化石化業和水泥業預測性維護的安全性,解決客戶不願將所有資料上傳雲端的疑慮。

根據 Ambient Scientific 的產品藍圖,除了 GPX10,他們也將推出單核心的 GPX1 以及具備視覺和自然語言處理能力的 GPX64,後者預計將於明年第一季上市。GPX64 可望支援小型語言模型(SLM),為電動車、穿戴式裝置和智慧眼鏡等提供語音互動介面,進一步將 AI 從雲端推向裝置端。Ambient Scientific 也已開發出雲端伺服器等級處理器 GPX2000 的模擬版本,宣稱在 PPA 表現上超越輝達(Nvidia)的 H200 晶片。