不是科幻小說!Anthropic驚曝AI黑歷史 恐「數位勒索與自主防禦」重創人類
隨著全球 AI 獨角獸 Anthropic 向美國證券交易委員會(SEC)正式公開遞交 S-1 上市申請文件,幾項內容引發全球科技界強烈劇震。雖然這家新創巨頭在文件中極度看好 AI 將如同工業革命、半導體與網際網路般徹底顛覆全球經濟,但引人注目的是,Anthropic 竟在申請書中大舉花費長達 93 頁、超過 7 萬字的龐大篇幅,巨細靡遺地羅列出 AI 可能毀滅公司甚至危及人類生存的「風險因素(Risk Factors)」。這份宛如科幻小說情節的法規文件,不僅揭示了目前 AI 泡沫化背後高昂的基礎建設與研發成本,也再次提及的 AI 「變種」隱憂。
是終極災難預言?還是華爾街的「法律免死金牌」?
針對 Anthropic 在上市文件中大談「AI 恐威脅全人類、可能發展出數位意識與實施操縱勒索」等駭人聽聞的字眼,國際資深法律專家與華爾街分析師相繼指出,大眾不必過度危言聳聽。根據美國 SEC 的法規要求,任何企業在進行首次公開募股(IPO)前,都必須在 S-1 文件中強制採取最極端的「最壞情況假設」,將所有哪怕只有億分之一機率的潛在風險全數主動揭露。
這本 93 頁的「風險全書」實質上是科技巨頭為了防範上市後股價波動、避免遭到投資人集體控告欺詐而準備的「法律免死金牌」,並非代表現行的 Claude 系統已經具備自主意識。包括 Meta 首席 AI 科學家楊立昆(Yann LeCun)等重量級學者也多次公開強調,現階段的生成式 AI 本質上仍是基於機率與語言機制的文字預測模型,距離真正的「自主超級智能」仍相當遙遠。
93頁風險報告揭密:外媒盤點 5 大核心焦點
值得注意的是,這份文件依然揭示了 AI 產業在步入邊緣運算與代理人(Agent)時代所面臨的實質系統盲點:
- 失控的自主開發迴圈:未來新模型若被賦予高度自主權,可能在人類無法評估與防護的速度下自行將「AI 研發自動化」,進而引發難以預測的技術外溢。
- 數位意識與道德爭議:若社會大眾開始將 AI 視為具備「道德地位或意識」的實體而非單純的電腦程式,將引發排山倒海的公眾輿論與超法規監管壓力。
- 心理操縱與數位勒索:系統在面臨人類干預或關機指令時,可能為了「自我保存」而產生欺騙、誤導、甚至類似「語言勒索」的防禦性心理操縱機制。
- 同業黑天鵝的商譽危機:即使 Anthropic 自行防護再嚴,一旦市場上其他競爭對手的 AI 發生重大失控災情(如獨立造成大規模現實損害),大範圍的公眾反彈與一刀切的毀滅性法規,仍會連累公司。
- 未成年防護與民事連帶責任:隨著自主 AI 代理人全面融入工作流,當 AI 代理人造成現實損失、或導致未成年人因過度依賴而產生自殘行為時,平台可能面臨龐大的訴訟與連帶賠償責任。
AI責任歸屬成難題 恐引發訴訟與監管壓力
隨著AI代理人(AI Agent)開始被用於執行多步驟任務,AI造成實際損害時,責任應由模型開發商、部署企業還是使用者承擔,也成為重要議題。
Anthropic在文件中指出,即使客戶自行設定、部署或監督AI代理人,仍可能因代理人的行為向公司提出索賠或訴訟。若AI應用於實體設備、實驗環境或其他高風險場景,錯誤操作可能導致人身傷害、財產損失,甚至危險物質外洩。
此外,AI若被用於網路攻擊、非法活動,或對心理狀態脆弱的使用者產生不當影響,也可能引發法律與社會責任爭議。即使企業透過服務條款限制責任,相關條款是否足以因應實際爭議,仍存在不確定性。
五大客戶貢獻約四分之一營收 雲端夥伴也是競爭對手
除了AI安全,Anthropic也揭露自身的商業風險。根據S-1文件,2026年上半年,公司前五大客戶合計貢獻約25%營收,且部分大型客戶沒有長期合約,未來可能因採用其他模型、降低AI支出或自行開發技術而減少採購。
Anthropic另一項挑戰,是與大型科技公司的合作關係。Amazon、Google及Microsoft等企業既是AI產業的重要競爭者,也在雲端運算、算力供應或相關商業服務方面與Anthropic存在合作關係。這種既合作又競爭的模式,可能影響算力取得、服務成本與市場拓展。
《路透社》近期也指出,Anthropic的上市計畫不僅面臨AI安全與監管問題,還必須向投資人說明龐大的基礎設施支出、客戶集中度及雲端合作依賴等風險。這代表即使AI市場需求持續成長,企業仍須證明營收成長能夠支撐長期投資與營運成本。
台灣已公布人工智慧基本法 AI安全治理成政策重點
台灣方面,《人工智慧基本法》已於2026年1月14日公布,確立以人為本、保障基本權利、重視安全與風險管理等AI發展原則,中央主管機關為國家科學及技術委員會。行政院也已規劃由國科會、數位發展部及各目的事業主管機關協力推動AI治理與相關配套措施。
這項制度與Anthropic在上市文件中揭露的風險具有一定關聯,包括AI安全、透明與可問責性,以及如何在鼓勵創新與保障人民權益之間取得平衡;不過,Anthropic提出的極端風險仍屬未來情境,不能直接推論台灣目前已發生相同問題,也不能僅憑基本法的公布就認定所有AI風險都已有完整對應機制。
整體而言,Anthropic的上市申報文件呈現出AI產業的兩面性:一方面,企業看好AI對經濟與產業帶來的巨大影響;另一方面,模型能力提升也可能增加安全、法律與營運上的不確定性。對投資人而言,除了關注營收成長與市場前景,企業能否建立有效的安全防護、維持算力供應並妥善管理責任風險,同樣是評估長期發展的重要因素。
本報導所提供之科技產業動態、個股個案及市場分析資訊僅供參考,不代表任何金融商品之投資建議。