防堵自主 AI 誤發採購單 專家倡議導入行動就緒合約
商傳媒|葉安庭/綜合外電報導自主人工智慧(AI)系統若在未嚴格驗證的情況下對外觸發動作,可能帶來難以挽回的系統風險。資深資料工程師AdityaRanjan在美國電腦協會旗艦期刊《CommunicationsoftheACM》撰文提出「行動就緒合約」(Action-ReadinessC
商傳媒|葉安庭/綜合外電報導自主人工智慧(AI)系統若在未嚴格驗證的情況下對外觸發動作,可能帶來難以挽回的系統風險。資深資料工程師AdityaRanjan在美國電腦協會旗艦期刊《CommunicationsoftheACM》撰文提出「行動就緒合約」(Action-ReadinessC
商傳媒|葉安庭/綜合外電報導隨著人工智慧(AI)生成程式碼的能力突飛猛進,全球正逐漸運行在連人類都難以完全理解的程式碼之上,引發各界對潛在系統性風險的擔憂。一向被視為穩定象徵的數學界,也開始正視這股挑戰,甚至有頂尖數學家因此轉投AI安全領域,呼籲建立全球性的軟體驗證基礎建設。今年7