矽谷新創公司Gimlet Labs近期宣布，已成功完成A輪融資，募得八千萬美元（約新台幣26億元）資金。此筆資金主要用於發展其獨特的軟體平台，旨在解決人工智慧（AI）推理運算所面臨的規模化效率挑戰。
隨著AI技術普及，模型應用日益廣泛，AI推理作業每日處理數十億次查詢，其高昂的成本與資源耗用已成為一大隱憂。目前AI基礎設施的運作效率偏低，利用率僅約15%至30%，這使得擴展AI服務時常遭遇瓶頸。據統計，全球資料中心投資預計在2030年前將達到近七兆美元，顯示AI運算需求龐大，基礎設施的優化刻不容緩。
為此，Gimlet Labs開發出一套「多晶片推理雲端」（multi-silicon inference cloud）軟體平台。這項平台能將AI工作負載拆解成更小的部分，並智慧分配至不同類型的硬體上同時執行，例如中央處理器（CPU）、圖形處理器（GPU）以及專用AI加速器等。其核心優勢在於能夠跨越硬體限制，支援包括NVIDIA、AMD、Intel、ARM、Cerebras和d-Matrix等多家廠商的處理器，大幅提升運算彈性與資源運用效率。
Gimlet Labs的產品主要鎖定大型AI模型開發商與雲端運算服務供應商。透過此技術，Gimlet Labs期望能重新定義資料中心的AI運作模式，以靈活的跨平台協調取代傳統針對特定硬體的最佳化，協助企業最大化現有硬體資源的價值。此次由Menlo Ventures、Factory、Eclipse Ventures、Prosperity7 Ventures、Triomatic Capital等多家創投公司領投的八千萬美元A輪融資，將支持Gimlet Labs持續精進其技術，並進一步驗證其多晶片策略的可行性，也反映出創投界對於專注提升AI運作效能與降低成本的基礎設施新創公司，抱持高度信心。
