駭客假冒 Claude、ChatGPT 發動攻擊 資安業者揭開發者面臨新型風險
駭客如何利用假冒的 AI 工具攻擊開發者?
資安業者ANY.RUN的報告指出,駭客正透過假冒Claude和ChatGPT等熱門AI工具,向開發者散佈惡意軟體。在過去六個月內,ANY.RUN分析了1,258起此類攻擊事件,顯示威脅快速增加。駭客利用SEO汙染、惡意廣告及假下載頁面等手法,誘導開發者下載惡意程式,其中假冒Claude的攻擊佔比60%,假冒ChatGPT及Codex佔比33%。攻擊者常將假冒安裝程式託管在GitHub Pages、Cloudflare Pages、Google協作平台等看似合法平台,誘騙員工執行安裝指令或登入假冒視窗,進而竊取原始碼、API金鑰、業務會話資訊、廣告帳戶和計費權限等敏感資料,導致資料外洩、帳戶盜用、財務損失或營運中斷。
資安業者 ANY.RUN 近期發布分析報告指出,網路駭客正大肆利用人工智慧(AI)主題的誘餌,假冒熱門的 AI 工具如 Claude 和 ChatGPT,向開發者散佈惡意軟體。在過去六個月內,ANY.RUN 平台共分析了 1,258 起假冒 AI 工具的攻擊事件,顯示這類威脅正快速增加。
這些攻擊利用多種手法,包含搜尋引擎優化(SEO)汙染、惡意廣告及假下載頁面,誘導受害者下載惡意程式。其中,假冒 Anthropic 旗下大型語言模型 Claude 的攻擊案例佔總數的 60%,而假冒 OpenAI 的 ChatGPT 及 Codex 則佔 33%。攻擊者通常會將假冒的安裝程式託管在 GitHub Pages、Cloudflare Pages、Google協作平台等看似合法的平台上,藉此降低開發者的戒心。
攻擊的核心策略是誘騙員工執行關鍵步驟,例如貼上「安裝指令」、執行看似真實的安裝程式,或登入假冒視窗。一旦成功,駭客便能竊取原始碼、雲端與 AI 應用程式介面(API)金鑰、有效的業務會話資訊、廣告帳戶和計費權限等敏感資料,導致資料外洩、帳戶遭盜用、財務損失或營運中斷。
ANY.RUN 指出,這類攻擊主要運用兩種策略:「ClickFix-type tactics」(點擊誘騙手法)與「InstallFix」(假安裝程式攻擊)。前者透過假冒的下載頁面啟動攻擊,佔比約 17%;後者則以假冒的命令列介面(CLI)安裝程式呈現,佔比達 27%。此外,有 45% 的攻擊要求受害者複製貼上指令至其介面。Push Security 研究員 Dan Green 更警告,部分攻擊鏈甚至直接發生在合法的 AI 網站上,利用共享聊天內容或惡意文件,大幅降低了使用者的警覺性,使這些攻擊特別難以察覺。
為防範這類新型攻擊,資安專家建議企業應提供經核准的 AI 工具清單及其官方來源,並透過行動裝置管理(MDM)或軟體入口網站進行安裝。同時,應限制一般使用者執行指令的能力,並對員工進行資安培訓,強調必須針對官方供應商文件驗證所有安裝指令,而非輕信第三方連結、廣告或共享聊天內容。
在 AI 工具日益普及的同時,程式開發社群內部對於 AI 輔助程式碼的使用也存在討論。例如,Linux kernel 社群曾於今年一月導入「Assisted-by Tag」機制,要求貢獻者揭露程式碼是否使用了先進的程式設計工具。然而,這個標籤正被推動廢除,主要原因包括執行困難、可能成為專有大型語言模型公司的免費廣告,以及收集資訊的目的不明。林納斯·託瓦茲(Linus Torvalds)本人雖表示樂於使用 AI 輔助其不擅長的任務,但也強調對於「真實且重要」的專案,使用 AI 仍需謹慎,凸顯了 AI 在開發過程中帶來的便利與挑戰並存的雙面性。
駭客利用哪些具體手法散佈假冒的AI工具惡意軟體?
駭客主要利用搜尋引擎優化(SEO)汙染、惡意廣告及假下載頁面來誘導開發者。他們也會將假冒的安裝程式託管在GitHub Pages、Cloudflare Pages、Google協作平台等看似合法的平台上,並運用「ClickFix-type tactics」(點擊誘騙手法)與「InstallFix」(假安裝程式攻擊)等策略。
企業應如何防範這類假冒AI工具的資安威脅?
企業應提供經核准的AI工具清單及其官方來源,並透過行動裝置管理(MDM)或軟體入口網站進行安裝。同時,應限制一般使用者執行指令的能力,並對員工進行資安培訓,強調必須驗證所有安裝指令的官方來源,而非輕信第三方連結或共享內容。
Linux kernel社群為何曾考慮廢除「Assisted-by Tag」機制?
Linux kernel社群曾考慮廢除「Assisted-by Tag」機制,主要原因包括執行困難、可能成為專有大型語言模型公司的免費廣告,以及收集資訊的目的不明。儘管如此,Linus Torvalds仍樂於使用AI輔助不擅長的任務,但強調在重要專案上需謹慎使用。