商傳媒｜葉安庭／綜合外電報導

隨著人工智慧代理程式（AI Agent）逐漸普及，其在執行任務時從網路上獲取資訊的成本問題日益浮現。《MarkTechPost》報導指出，許多AI團隊雖然會預算模型運算費用，卻低估了內容檢索所帶來的隱藏成本，尤其是Token（權杖）計價與上下文視窗（Context Window）的限制。

人工智慧代理程式（AI Agent）是一種能夠自主規劃並執行任務的程式，這些任務常需要它們像人類一樣在網路上搜尋資料，獲取資訊。當AI Agent讀取網頁內容時，這些內容會被轉換成Token（權杖），這是大型語言模型處理文字的最小單位，模型會將輸入的文字內容轉換為權杖進行處理，並以此計算費用。若檢索到的內容Token數量龐大，將顯著增加大型語言模型（LLM）的推論成本。此外，Context Window（上下文視窗）指的是大型語言模型在單次對話中能記憶和處理的資訊量上限，超過此上限的資訊模型將無法有效運用。

為解決這項挑戰，AI網頁基礎設施公司TinyFish Inc.推出了搜尋與擷取服務，在特定用量限制內提供免費使用。根據該公司說法，這項策略主要基於其共用基礎設施、針對搜尋與即時網頁互動設計的網路原生AI模型，以及不以成為索引公司為目標的商業模式。TinyFish表示，其免費檢索服務在搜尋功能上，每分鐘可處理30個請求，每小時500個；在網頁內容擷取方面，每分鐘可處理150個網址，每天1,000個。

在由Artificial Analysis於今年9月28日發布的基準測試快照中，TinyFish Search（網路版）在1,000次基準測試任務中，總成本最低，僅為9.30美元（主要為模型費用）。相比之下，Perplexity Search（中等版）獲得了80分的最高分，而TinyFish Search（網路版）分數為71分。雖然TinyFish的總成本最低，但在所有測試配置中，其單次任務處理時間（模型加上搜尋時間）是第二長的，約為59秒。這項測試固定了模型為GPT-5.6 Luna（中等版），僅變更搜尋供應商。

TinyFish也進行了內部評估，比較不同供應商在網頁擷取（Fetch）方面的Token效率。今年6月2日，一項針對45個網址和5個供應商的評估顯示，針對《每日郵報》的一篇文章，TinyFish Fetch僅產生約1,184個Token，而Exa Contents產生約16,448個，Firecrawl Scrape則高達約42,774個Token。這意味著Firecrawl擷取的字元數約為TinyFish的36倍，導致下游模型輸入成本顯著增加。

TinyFish將搜尋視為執行的營運環節，就像普通軟體中的DNS或儲存服務。該公司透過收取Agent使用費（每步驟0.016美元）和瀏覽器使用費（每分鐘0.002美元）來營利。至於市場趨勢，美國金流支付平台Stripe收購人工智慧路由服務OpenRouter的協議顯示，企業正朝著將任務路由到最便宜且能勝任的模型方向發展，這印證了AI成本管理的重要性。

根據TinyFish的內部評估，Fetch的內容涵蓋率（至少1,000字元且訊號比率大於30%）TinyFish達到93%，其他供應商如Tavily為80%，Exa為73%，Firecrawl為62%，Parallel為58%。