免費在地端跑AI實用嗎?外媒實測一週揭硬體沉重代價
商傳媒|葉安庭/綜合外電報導在雲端AI服務逐漸普及的同時,許多使用者因考量資料隱私與用量限制,開始嘗試在地端電腦直接運行模型。《How-ToGeek》記者NickLewis近日進行為期一週的實測,嘗試以一般筆記型電腦執行免費在地端模型,全面替代Anthropic旗下的雲端服務Cl
商傳媒|葉安庭/綜合外電報導在雲端AI服務逐漸普及的同時,許多使用者因考量資料隱私與用量限制,開始嘗試在地端電腦直接運行模型。《How-ToGeek》記者NickLewis近日進行為期一週的實測,嘗試以一般筆記型電腦執行免費在地端模型,全面替代Anthropic旗下的雲端服務Cl
商傳媒|責任編輯/綜合外電報導企業對於代理AI(AgenticAI,即具備自主決策與執行任務能力的AI代理)的應用正在迅速增加,這項轉變直接推升了算力消耗,並引發科技界對於「租用公有雲」或「自建硬體設施」的新一輪論戰。決定AI模型運行位置的「模型層」(modelplane)逐漸下沉,越來越多企