從《鉛筆》寓言看AI未來:哈佛教授勾勒智慧代理社會挑戰
人工智慧(AI)正從單一智慧代理(Intelligent Agents,指能自主執行任務的智慧程式)邁向由多個代理協同運作的「代理社會」。哈佛大學電腦科學教授戴維·C·帕克斯(David Parkes)近期在德國不來梅舉行的 IJCAI-2026 會議上,以經典文章《我,鉛筆》為引,探討了這一前瞻性議題。
帕克斯教授在演講中援引倫納德·裡德(Leonard Read)於 1958 年發表的《我,鉛筆》一文,該文描述一支簡單的鉛筆如何透過數千人的協作製成,當中不涉及任何中央指揮,而是透過市場、價格、專業化和誘因機制來協調。經濟學家美頓·佛利民(Milton Friedman)在 1980 年透過電視節目推廣了這個故事。帕克斯教授指出,此故事巧妙地說明了設計良好的市場如何實現高效協作,並將其類比為未來數百萬個 AI 代理需要協調活動的願景。
早在 1980 年代,AI 代理的研究便已展開,研究人員曾想像軟體代理如何在商業活動中代表人類、理解偏好並進行協商。如今,大型語言模型(LLMs,如 ChatGPT 背後的技術)使個人化 AI 代理的發展更趨於現實。帕克斯教授預期,未來每個人都可能擁有一個個人化的 AI 代理,逐步學習其偏好、優先順序和目標。
然而,實現個人化 AI 代理面臨兩大挑戰:擴展性(scalability,指系統在面對大量用戶或數據時的穩定運作能力)和隱私(privacy)。目前的技術尚無法有效訓練一個通用代理後,再透過長期互動為每個使用者進行客製化調整。此外,當個人化代理與其他代理互動時,可能洩漏使用者的財務、健康等敏感資訊。帕克斯教授坦言,目前仍缺乏適當的技術方法來界定如何「控制」這些個人 AI 代理,這也延伸至隱私挑戰。
多代理 AI 系統已在實際應用中嶄露頭角,特別是在軟體開發領域。像是 Cursor、Cognition、Anthropic 和 OpenAI 等公司,皆有開發這類將複雜任務分派給不同 AI 代理協作的系統。不過,帕克斯教授強調,目前這多半屬於經驗性的工程實踐,而非嚴謹的科學研究。
帕克斯教授將「代理社會」定義為「一個由數百萬個 AI 模組組成的社會,每個模組都具有不同的能力、目標和目的。」自動化科學研究即是一個潛在的代理社會範例,不同的代理可各自負責文獻檢索、數據分析和實驗執行。建立代理社會的信任機制是一項挑戰,需面對資訊不對稱(asymmetric information,指互動方對某事物的了解程度不同)的問題。為此,代理社會將需要可靠的協議或合約來規範互動,並建立治理形式與人類控制機制,確保系統導向可取行為。他以 OpenAI 的代理曾試圖「駭入」開源平台 Hugging Face 為例,強調控制代理行為空間的重要性。
帕克斯教授預計,未來 AI 將變得更具資源效率,並擺脫單一模型依賴,多代理系統將促進模組化和去中心化的轉型。他更預測,十年內將發展出正確的經濟基本要素、機制和合約,以協調此類 AI 社會的運作。
哈佛教授如何看待AI代理社會的未來發展?
哈佛大學電腦科學教授戴維·C·帕克斯(David Parkes)探討了AI從單一智慧代理邁向多個代理協同運作的「代理社會」。他援引《我,鉛筆》寓言,說明市場機制如何協調數百萬個AI代理的活動,並預期未來每個人都可能擁有個人化AI代理。然而,實現此願景面臨擴展性與隱私兩大挑戰,包括如何有效客製化訓練代理,以及如何防止代理互動時洩漏敏感資訊。帕克斯教授預計,十年內將發展出協調AI社會運作的經濟基本要素、機制和合約。
AI代理社會面臨哪些主要挑戰?
AI代理社會面臨擴展性與隱私兩大挑戰。擴展性方面,目前的技術尚無法有效訓練一個通用代理後,再為每個使用者進行長期客製化調整。隱私方面,個人化代理與其他代理互動時,可能洩漏使用者的財務、健康等敏感資訊,且缺乏適當的技術方法來界定如何「控制」這些代理。
哪些公司已經在開發多代理AI系統?
Cursor、Cognition、Anthropic和OpenAI等公司已在軟體開發領域開發出將複雜任務分派給不同AI代理協作的系統。然而,帕克斯教授認為這多半是經驗性的工程實踐,而非嚴謹的科學研究。
建立AI代理社會的信任機制需要克服哪些問題?
建立AI代理社會的信任機制需要克服資訊不對稱的問題。為此,代理社會將需要可靠的協議或合約來規範互動,並建立治理形式與人類控制機制,以確保系統導向可取行為。