AI新創公司Anthropic於週二宣布，啟動一項名為「玻璃翼」（Project Glasswing）的網路安全計畫，旨在利用其最新AI模型偵測軟體漏洞。然而，專家警告，人工智慧的快速發展，雖為資安防禦帶來新工具，但也可能導致網路攻擊變得更加複雜。
Anthropic的「玻璃翼」計畫運用其AI模型「Claude Mythos Preview」，該模型在測試中展現出驚人的駭客能力，即使並非為此目的開發，卻已成功發現數千個現有程式與應用程式中的缺陷，包括主要作業系統及網頁瀏覽器。《AOL.com》報導指出，Claude Mythos Preview甚至能串聯起廣泛使用的Linux作業系統中的多個軟體漏洞。基於潛在的危險輸出，Anthropic目前不打算將Claude Mythos Preview公開發布，而是選擇與亞馬遜（Amazon）、蘋果（Apple）、微軟（Microsoft）、輝達（Nvidia）等科技巨擘合作，共同在新一代AI模型普及前，找出軟體中的弱點。
然而，AI在網路安全領域的雙面性也引發擔憂。馬里蘭大學（University of Maryland）科技與系統治理中心（Center for Governance of Technology and Systems）主任查爾斯·哈利（Charles Harry）表示，AI為攻擊者提供了戲劇性的突破口，並增加了本已複雜的技術生態系統的複雜度。喬治城大學（Georgetown University）安全與新興科技中心（CSET）資深研究員安德魯·隆恩（Andrew Lohn）則指出，隨著AI生成程式碼的普及，軟體漏洞的數量可能因此增加，因為更多程式碼可能由AI生產、檢查或認證，進而引發更多漏洞的疑問。
上個月，資安研究員卡勒姆·麥克馬洪（Callum McMahon）發現了一種由開源專案LightLLM隨性編碼（vibe coded）產生的惡意軟體，顯示AI可能被用於開發惡意工具。巧合的是，Anthropic自身也於上週經歷一場網路安全事件，部分原始碼因人為失誤而外洩。這些事件突顯了在擁抱AI帶來的資安防禦能力的同時，也必須警惕其可能帶來的全新風險與挑戰。
