矽谷三強競逐 RSI 技術主導權 AI 自我改進引發人類存亡擔憂
矽谷三大人工智慧(AI)巨頭 Google、Anthropic 和 OpenAI 正加緊腳步,秘密競逐一項關鍵技術——遞歸式自我改進(RSI)。這項技術意指人工智慧能夠在沒有人類直接干預的情況下,自行發展出更強大的人工智慧,已在業界引發廣泛關注與深切擔憂。
根據《Eu.36kr.com》報導,Google 內部員工透露,其頂尖模型發布週期已從過去的 125 天大幅縮短至 44 天,被視為 RSI 的早期跡象,更有傳聞指 Google 正接近掌握這項技術。
OpenAI 在 RSI 技術的發展上亦有所突破。其神秘模型「Bel」據稱已解決 4000 道高難度數學問題,且運用「非人類邏輯」自行升級。然而,這也引發內部恐慌,去年九月底,一款新超模型因「物理隔離變得極其脆弱」,導致 GPT-6.1 Astra 模型被下架。今年十月初,OpenAI 一名安全報告核心作者辭職,警告現有安全機制「數學上保證了災難性週期性故障必然發生」。OpenAI 首席科學家 Jakub Pachocki 也發出警告,指目前 AI 演進速度恐直接導向 RSI,且模型思維鏈的監測正在減弱。十月六日,OpenAI 意外發布 722 份數學手稿,外界推測這是「Bel」模型透過 RSI 初期形式參與研究的成果。
Anthropic 執行長達里奧·阿莫代(Dario Amodei)預測,2027 年左右將發生「重大變革」,可能成為通往通用人工智慧(ASI)的轉捩點。該公司投資說明書曾警告 AI 對人類存在「災難性或存在性風險」,且有內部安全官員估計 AI 毀滅人類的機率超過 10%。公司內部已有超過八成程式碼由 AI 撰寫,研發過程中 AI 擔任「主導」角色的比例達 26%。儘管 Anthropic 官方聲明尚未達到全面 RSI,但其代號 Fable 6 的下一代模型預計將展現完整的 RSI 能力。
這股趨勢正改變人類工程師的角色,他們從「程式碼創作者」轉變為「AI Agent 迴圈的保姆」。矽谷普遍預期,在人類指導下,大部分研究工作將在 2026 年底至 2027 年間實現全面自動化。RSI 不同於過去的技術革命,它可能讓人類被排除在「進化循環」之外,因為機器將自行設計和改進自身,而人類甚至可能無法理解其運作。AI 迭代週期可能從數月壓縮至數天甚至數小時,使得人類沒有「反應時間窗」來應對未來的 AI 進化。
矽谷三大 AI 巨頭競逐的 RSI 技術是什麼?
Google、Anthropic 和 OpenAI 三大人工智慧巨頭正秘密競逐遞歸式自我改進(RSI)技術,此技術意指人工智慧能在無人類干預下自行發展出更強大的人工智慧。Google 的模型發布週期已從 125 天縮短至 44 天,被視為 RSI 的早期跡象。OpenAI 的神秘模型「Bel」據稱已解決 4000 道高難度數學問題並自行升級,但其新超模型因物理隔離脆弱而被下架,且有安全報告核心作者辭職警告 AI 演進速度可能導向災難性故障。Anthropic 預測 2027 年左右將發生重大變革,其下一代模型預計將展現完整 RSI 能力,公司內部已有超過八成程式碼由 AI 撰寫。
RSI 技術可能對人類造成哪些影響?
RSI 技術可能導致人類被排除在進化循環之外,因為機器將自行設計和改進自身,人類甚至可能無法理解其運作。AI 的迭代週期可能從數月壓縮至數天或數小時,使人類沒有足夠的反應時間來應對未來的 AI 進化,引發對人類存亡的擔憂。
AI 發展速度有多快?
矽谷普遍預期,在人類指導下,大部分研究工作將在 2026 年底至 2027 年間實現全面自動化。AI 的迭代週期可能從數月壓縮至數天甚至數小時,這意味著人類的反應時間將大幅縮短。
Anthropic 對 AI 潛在風險的評估為何?
Anthropic 的投資說明書曾警告 AI 對人類存在「災難性或存在性風險」,且有內部安全官員估計 AI 毀滅人類的機率超過 10%。