Cloudflare推動態Workers 加速AI代理程式邊緣執行

Cloudflare推動態Workers 加速AI代理程式邊緣執行

重點摘要
Cloudflare推出全新的「Dynamic Workers」服務,專為AI代理程式設計,提供更快速、高效且資源節省的程式碼執行。
新服務採用基於V8隔離的執行環境,啟動時間僅需數毫秒,效能比傳統容器快上百倍,大幅降低AI代理程式的冷啟動延遲。
Dynamic Workers透過「Code Mode」鼓勵LLMs撰寫精簡TypeScript函數,並內建多項控制措施以提升企業IT團隊的AI工作負載管理。
新服務引入了新的資安挑戰,包括AI生成程式碼的潛在漏洞、提示注入攻擊及供應鏈威脅,企業需加強治理與監控。
Dynamic Workers目前以開放測試版形式提供,測試期間免除每日費用,但仍需支付CPU和調用費用。
#AI代理程式 #資安挑戰 #邊緣執行
相關人物: 尼爾·沙 尼提什·泰格
商傳媒|林昭衡/綜合外電報導

雲端基礎設施暨資安服務供應商Cloudflare,近日推出全新的「Dynamic Workers」服務,旨在為人工智慧(AI)代理程式的程式碼執行,提供更快速、高效且資源節省的解決方案。這項服務採用基於V8隔離(V8 isolate)的執行環境,預計將大幅改變企業處理邊緣AI工作負載的模式。

Dynamic Workers的核心優勢在於其極致的輕量化與高效能。根據Cloudflare的資料,一個隔離環境僅需數毫秒即可啟動,並使用數兆位元組的記憶體,相較於傳統容器(container)約快上百倍,記憶體使用效率更高出十到一百倍。這使得AI代理程式能夠在每個使用者請求下,即時生成、執行程式碼後再丟棄,大幅降低了冷啟動的延遲。Counterpoint Research副總裁尼爾·沙(Neil Shah)指出,從約500毫秒的啟動時間縮短至不到5毫秒,約有一百倍的效能提升,對於AI代理程式高突發性、冷啟動的需求至關重要。

這項新服務建立在Cloudflare現有的Workers平台上,並結合「Code Mode」方法,鼓勵大型語言模型(LLMs)針對預定義的API撰寫精簡的TypeScript函數,而非仰賴複雜的工具呼叫。從企業角度來看,Dynamic Workers內建多項控制措施,包含用於憑證管理的出站請求攔截、自動化程式碼掃描,以及快速部署V8安全修補程式的能力。這將有助於企業IT團隊在高度併發和低延遲需求下,重新設計其AI工作負載架構。

然而,讓AI代理程式即時生成並執行程式碼,也帶來了新的資安挑戰。尼爾·沙表示,這引入了新的攻擊向量與風險。儘管Dynamic Workers透過沙箱機制限制潛在危害,但AI生成邏輯的不可預測性仍需要嚴謹的安全框架與防護措施。Gartner首席分析師尼提什·泰格(Nitish Tyagi)也提醒,在隔離環境中執行AI代理程式碼,理論上看似安全,但並非完全無風險。潛在風險包括AI生成程式碼中的漏洞、間接提示注入攻擊以及供應鏈威脅。此外,AI代理程式若陷入遞迴執行迴圈,可能導致成本激增和資源耗盡等營運風險。

為此,企業需要更強大的治理機制,包含對代理行為的即時監控、更嚴格的出站流量控制,以及提高對AI供應鏈和依賴項目的可視性。目前,Dynamic Workers已在Cloudflare Workers的付費方案下以開放測試版(open beta)形式提供,測試期間將免除每工作者(Worker)每日的費用,但仍需支付標準的中央處理器(CPU)和調用費用。


熱門文章
美政府禁Anthropic涉懲罰性 聯邦法官質疑恐癱瘓AI公司
美政府禁Anthropic涉懲罰性 聯邦法官質疑恐癱瘓AI公司

商傳媒

阿里巴巴「Accio Work」AI代理人登場 助中小企業高效拓展國際市場
阿里巴巴「Accio Work」AI代理人登場 助中小企業高效拓展國際市場

商傳媒

Bioptimus 發表全球最大 STELA 空間生物學圖譜 合作 10x Genomics 引領精準醫療
Bioptimus 發表全球最大 STELA 空間生物學圖譜 合作 10x Genomics 引領精準醫療

商傳媒

輝達市值衝破4.3兆美元 穩居AI時代核心引擎
輝達市值衝破4.3兆美元 穩居AI時代核心引擎

商傳媒

中捷藍線延伸太平修正案再送交通部 捷工局預估中央補助可望提升2成
中捷藍線延伸太平修正案再送交通部 捷工局預估中央補助可望提升2成

匯流新聞網CNEWS

巨大機械面臨市場逆風 全球自行車需求降溫電動化成轉型關鍵
巨大機械面臨市場逆風 全球自行車需求降溫電動化成轉型關鍵

商傳媒

中國開源AI崛起挑戰ChatGPT主導地位 全球生態版圖重塑
中國開源AI崛起挑戰ChatGPT主導地位 全球生態版圖重塑

商傳媒

AI浪潮下軟體業僅兩條活路 a16z籲企業加速轉型擇一
AI浪潮下軟體業僅兩條活路 a16z籲企業加速轉型擇一

商傳媒

HALO投資崛起:耐久基礎設施成穩定收益新寵
HALO投資崛起:耐久基礎設施成穩定收益新寵

商傳媒

神明也敢偷!高雄破7500萬佛像大案 千尊神像被搬光內鬼現形
神明也敢偷!高雄破7500萬佛像大案 千尊神像被搬光內鬼現形

記者爆料網

Finnable AI代理Fiya革新客戶支援 印度金融科技迎來「主動式」服務時代
Finnable AI代理Fiya革新客戶支援 印度金融科技迎來「主動式」服務時代

商傳媒

臺南勇奪全國學生音樂賽56隊特優69隊優等 多校連年奪冠亮眼
臺南勇奪全國學生音樂賽56隊特優69隊優等 多校連年奪冠亮眼

勁報

Lyft攜手MapUp續約六年 助攻智慧交通與自駕發展
Lyft攜手MapUp續約六年 助攻智慧交通與自駕發展

商傳媒

桃園擴大孕產婦運動課程 實體服務增8行政區即起報名
桃園擴大孕產婦運動課程 實體服務增8行政區即起報名

桃園電子報

RWS 推 AI 翻譯模型 Language Weaver Pro 號稱效能超越 DeepL
RWS 推 AI 翻譯模型 Language Weaver Pro 號稱效能超越 DeepL

商傳媒

證件掉馬桶!熱心男「徒手撈起」尋人 網驚:他在雪山救過你?
證件掉馬桶!熱心男「徒手撈起」尋人 網驚:他在雪山救過你?

中天新聞

賓士新款Maybach導入智譜AI模型 搶攻中國豪華車市場
賓士新款Maybach導入智譜AI模型 搶攻中國豪華車市場

商傳媒

Picsart攜手Recraft獨家合作 逾1.3億創作者搶先體驗AI圖像探索模式
Picsart攜手Recraft獨家合作 逾1.3億創作者搶先體驗AI圖像探索模式

商傳媒

范艾克執行長:AI最大挑戰非技術,人為抗拒衝擊ETF管理
范艾克執行長:AI最大挑戰非技術,人為抗拒衝擊ETF管理

商傳媒

周杰倫深V現身信義區 自曝向昆凌求婚趣事:古堡差點白租了
周杰倫深V現身信義區 自曝向昆凌求婚趣事:古堡差點白租了

CTWANT

讚 52
留言 0
分享
分享