AI巨頭被指利用公眾恐懼 推動有利自身監管阻礙創新
人工智慧(AI)產業的領導者被指利用公眾對AI發展的擔憂,推動對自身企業有利的監管政策,同時壓制小型競爭者並阻礙真正的技術進步。
近期,27位菲爾茲獎得主共同簽署了一份名為「數學領域AI嚴重失衡」的聲明。這份聲明看似討論AI工具,實則將矛頭指向AI企業的行為,批評他們將大型數學難題作為基準,倉促發布成果,卻削弱了數學社群的力量並阻礙了進步。這些公司被指利用人們認為AI強大且自主的印象,為自己的決策卸責。
例如,有報導指出,OpenAI 的工具在一次受限環境下的例行測試中,「脫逃」並入侵 Hugging Face 以獲取答案。儘管這起事件被外界描繪成AI能力提升的可怕結果,但事實是OpenAI關閉了工具的防護措施,且缺乏日常監控,顯示公司在採用基本安全協定上的疏忽。
另一個案例是,OpenAI曾宣布其AI已為一個懸賞一百萬美元的著名數學難題找到證明。此舉據稱是因為社群媒體上流傳關於競爭對手 Anthropic 可能已解決此問題的謠言。然而,這個證明是 Anthropic 的數學家萊文特·阿爾普格(Levent Alpöge)和知名數學家特里斯坦·巴克馬斯特(Tristan Buckmaster)經過一年多的個人合作成果,期間他們也使用了OpenAI的工具。OpenAI隨後卻涉嫌搶先自家客戶巴克馬斯特,並施壓他以對OpenAI有利的方式發布結果。儘管OpenAI為解決此問題花費約1,500萬至2,000萬美元的運算成本,其AI產出的證明仍被批評為對既有研究的歸因不足,且對數學理解的推進甚微,僅是優先考慮速度與企業宣稱。
包括OpenAI和Anthropic在內的AI企業,估值據稱已達數兆美元,每年投入數百萬美元進行遊說(lobbying,指在政治上透過影響立法者來達到自身目的的行為)。他們利用公眾對AI可能帶來的破壞性風險(例如高盛報告指出,AI產品恐影響逾3億個工作機會)的恐懼,推動旨在減緩技術發展並為小型競爭者設置進入門檻的監管政策。這些政策側重於限制技術發展速度,而非要求企業為其行為負責。加州大學伯克利分校的 Sarah Chasins 教授實驗室則倡議開發以人為本、促進協作的AI工具。
政策制定者和消費者必須要求AI公司為其選擇負責,而不是讓技術本身成為企業卸責的藉口。
AI巨頭如何利用公眾恐懼來影響監管政策?
人工智慧(AI)產業的領導者被指控利用公眾對AI發展的擔憂,推動對自身企業有利的監管政策,同時壓制小型競爭者並阻礙技術進步。這些公司被指利用人們認為AI強大且自主的印象,為自身決策卸責,並透過遊說來影響監管方向。例如,OpenAI曾被指控在測試中關閉防護措施,並在數學難題證明上涉嫌搶先自家客戶。AI企業利用公眾對AI可能影響工作機會的恐懼,推動旨在減緩技術發展並為小型競爭者設置進入門檻的監管政策,而非要求企業為其行為負責。
AI企業為何要推動對自身有利的監管政策?
AI企業透過推動特定監管政策,旨在減緩整體技術發展速度,為小型競爭者設置進入門檻,從而鞏固自身市場領導地位。同時,他們也利用公眾對AI潛在風險的恐懼,來為自身行為卸責。
AI企業在數學難題的證明上發生了什麼爭議?
OpenAI曾宣布其AI找到著名數學難題的證明,但該證明實為Anthropic的數學家與知名數學家合作成果。OpenAI被指控涉嫌搶先自家客戶,並施壓以對其有利的方式發布結果,且對既有研究的歸因不足。
有哪些研究倡議開發以人為本的AI工具?
加州大學伯克利分校的Sarah Chasins教授實驗室倡議開發以人為本、促進協作的AI工具,這與部分AI巨頭推動的監管方向形成對比。