硬體創新助AI突破瓶頸 稀疏計算成大型模型新解方
商傳媒|林昭衡/綜合外電報導隨著人工智慧(AI)技術快速發展,大型語言模型(LLM)的規模持續擴大,例如Meta推出的Llama模型已達2兆個參數。然而,模型增大不僅提升了能力,也帶來能源消耗與運算時間的大幅增加,導致碳足跡問題日益嚴重。為解決這些挑戰,目前業界普遍傾向使用較小型模
商傳媒|林昭衡/綜合外電報導隨著人工智慧(AI)技術快速發展,大型語言模型(LLM)的規模持續擴大,例如Meta推出的Llama模型已達2兆個參數。然而,模型增大不僅提升了能力,也帶來能源消耗與運算時間的大幅增加,導致碳足跡問題日益嚴重。為解決這些挑戰,目前業界普遍傾向使用較小型模
商傳媒|吳承岳/台北報導南韓於昨日(2日)在位於大田廣域市的韓國科學技術情報研究院(KISTI)總部,舉行第六代國家級超級電腦「漢江」(Hangang)的啟動儀式。這座新系統的理論運算效能較其前身大幅提升24倍,並搭載輝達(NVIDIA)最新晶片,預計將在近期公布的全球超級電腦排行榜中躋