AI 助長間諜與犯罪活動 企業與執法單位面臨資安新挑戰
人工智慧(AI)工具的普及,正讓企業內部的間諜活動與一般犯罪變得更為便捷,對全球企業與執法單位帶來前所未有的資安挑戰。儘管 AI 能降低犯罪門檻,但也為調查人員追蹤線索提供了新途徑。
根據《Axios》報導,美國聯邦檢察官近期起訴了一名 OpenAI 工程師。這名工程師被控意圖竊聽公司內部機密對話。案情指出,OpenAI 約在今年 9 月 30 日於一間主管會議室的電視 USB 連接埠中,發現了一個「隱密錄音裝置」。調查人員指控,這名工程師利用 AI 工具研究公司會議室的佈局,並開發錄音設備。該工程師曾使用「生產力代理人」(一種能協助使用者自動化完成任務的 AI 工具)查詢 OpenAI 辦公室的會議室資訊,包含「這是在哪個會議上展示的?何時錄製?」、「列出公司裡六人以上的會議室」以及「這間會議室今天的會議列表」。此外,一個與其配偶相關的 AI 聊天機器人帳號,也曾要求 AI 模型建立一個「持續錄音機」,並增加「瀏覽器存取和控制」功能,同時加密儲存錄音的記憶卡。OpenAI 在其社群平台 X 上表示,公司運用自身的 AI 模型來「理解該裝置及其來源」,協助調查。目前尚不清楚是否有敏感對話被成功錄音。
AI 工具的濫用不只發生在企業內部。去年,美國執法單位查獲一起案件,一名男子利用 ChatGPT 策劃炸毀拉斯維加斯川普國際酒店外的一輛 Tesla Cybertruck。今年 8 月,內布拉斯加州一名男子因在銀行搶劫前使用 ChatGPT 尋求協助,包括詢問如何拆卸及修理手槍,被判處逾十年徒刑。此外,美國司法部於 2024 年起訴一名前 Google 軟體工程師,指控他竊取 AI 技術機密並分享給兩家中國公司。該工程師已於今年稍早被聯邦陪審團判定犯有經濟間諜罪及竊取商業機密等多項罪名。
這些案例顯示,AI 模型在帶來便利的同時,也成為犯罪者計畫與執行犯罪活動的新工具,尤其可能讓經驗不足的人更容易製造間諜設備。對企業而言,AI 不僅在自身防線被突破時構成資安威脅,其被內部人員用於策劃針對自身運作的間諜行動,也成為新型態的資安問題。面對 AI 技術帶來的新型犯罪與資安挑戰,各國企業與執法單位,包括台灣相關機構,都需保持警惕並思考應對之道。
AI 工具如何助長間諜與犯罪活動,對企業和執法單位造成哪些新挑戰?
人工智慧(AI)工具的普及降低了犯罪門檻,並為間諜活動與一般犯罪提供了更便捷的途徑,對企業與執法單位構成前所未有的資安挑戰。例如,一名 OpenAI 工程師被控利用 AI 工具研究公司會議室佈局並開發隱密錄音裝置,企圖竊聽內部機密對話。此外,AI 也被用於策劃炸毀車輛、協助銀行搶劫,以及竊取 AI 技術機密並分享給外國公司。這些案例顯示,AI 不僅可能被外部犯罪者濫用,也可能被內部人員用於策劃針對自身運作的間諜行動,成為新型態的資安問題。
OpenAI 工程師如何利用 AI 工具進行間諜活動?
該名工程師被指控使用 AI 工具查詢 OpenAI 辦公室的會議室資訊,例如會議時間列表,並開發錄音設備。此外,與其配偶相關的 AI 聊天機器人帳號曾要求 AI 模型建立持續錄音機,並具備瀏覽器存取和控制功能。
除了間諜活動,AI 還被用於哪些犯罪行為?
AI 工具曾被用於策劃炸毀車輛,以及協助銀行搶劫的規劃,例如詢問如何拆卸手槍。另外,也有工程師被起訴竊取 AI 技術機密並分享給外國公司。
AI 工具的普及對執法單位有何影響?
AI 工具的普及雖然降低了犯罪門檻,但也為調查人員追蹤線索提供了新途徑。然而,AI 也可能讓經驗不足的人更容易製造間諜設備,對執法單位帶來新的偵查挑戰。