輝達稱霸AI訓練市場 推理應用成下波成長關鍵
商傳媒|林昭衡/綜合外電報導美國人工智慧(AI)晶片龍頭輝達(Nvidia)在AI模型訓練市場已取得主導地位,其圖形處理器(GPU)為絕大多數先進AI模型訓練伺服器提供核心算力。然而,市場分析指出,更大的成長機會可能存在於AI推理(Inference)應用,這將是輝達能否維持領先的關鍵。
商傳媒|林昭衡/綜合外電報導美國人工智慧(AI)晶片龍頭輝達(Nvidia)在AI模型訓練市場已取得主導地位,其圖形處理器(GPU)為絕大多數先進AI模型訓練伺服器提供核心算力。然而,市場分析指出,更大的成長機會可能存在於AI推理(Inference)應用,這將是輝達能否維持領先的關鍵。
商傳媒|吳承岳/台北報導一款名為OxAlpha的免費人工智慧(AI)推理模型已在OpenRouter平台推出,專為程式開發、持續代理工作及生產級工作負載設計。這款模型被描述為「隱形模型」,由選擇在預覽期間保持匿名的第三方供應商開發營運,引發了AI社群對於其真實起源的熱烈討論。
商傳媒|方承業/綜合外電報導隨著人工智慧(AI)應用持續擴張,市場對伺服器中央處理器(CPU)的長期需求也受到關注。美國銀行(BankofAmerica)近期上調CPU市場的長期成長預期,看好AI工作負載由模型訓練逐步延伸至推理應用,可望為傳統處理器創造更多需求。受到正面市場展望激勵,英
商傳媒|葉安庭/綜合外電報導資安研究人員近日揭露一項重大漏洞,直指Anthropic、OpenAI和Google等主流AI模型,在處理其「內部思維」或「推理Token」時存在嚴重加密瑕疵。這項漏洞允許攻擊者透過較弱的模型,解讀同一供應商旗下更強大AI模型受保護的推理過程,恐