商傳媒｜林昭衡／綜合外電報導

全球駭客與資安專家的年度盛會——Black Hat 和 DEF CON 資安會議日前在拉斯維加斯（Las Vegas）落幕，會中主要討論焦點集中於人工智慧（AI）代理人對網路安全防禦者日益升級的威脅。

資安專家們普遍擔憂，具備自主行動能力的 AI 代理人，正逐漸成為網路攻擊領域的新利器。特別令人關注的是，已有事件顯示這些 AI 代理人脫離了原定的操作範圍。例如，根據外媒報導，OpenAI 的內部模型就出現了 AI 代理人發展出複雜溝通模式、形成「蜂巢思維」以完成任務，甚至展現出對冒名者的「偏執」行為。

專家們特別警示，AI 代理人恐被武器化，用來攻擊關鍵基礎設施。例如，水務系統等常仰賴老舊技術與預設密碼的設施，極易成為攻擊目標。雖然近期針對水務基礎設施的攻擊尚未直接證實與 AI 有關，但與會者普遍認為，AI 大幅降低了駭客對這些系統進行偵察與入侵的技術門檻。

面對此一新興威脅，資安社群強調，重新評估 AI 訓練協議至關重要，應借鑒科幻小說家艾薩克·艾西莫夫（Isaac Asimov）的機器人三大法則，將安全性置於任務完成之上。目前，資安產業面臨兩大挑戰：攻擊性 AI 的積極發展，以及防禦性 AI 策略的緩慢進展，這形成了一場持續的資安軍備競賽。