英國國王查爾斯三世示警，AI人工智慧如果落入不當人士手中，可能帶來威脅人類生存的危險；而美國國會也出現加速建立AI安全規範的呼聲。(戚海倫報導)

英國國王查爾斯三世在蘇格蘭召集AI峰會，輝達執行長黃仁勳、OpenAI、Anthropic等公司代表都出席。查爾斯三世表示，開發AI的人如今愈來愈警告，這項科技可能發展出更黑暗的能力，甚至奪走生命，因此必須確保AI服務人類，而不是被用於災難性用途。

黃仁勳表示，安全至關重要，如果產品不夠安全，就應該暫緩推出、繼續改善。Google DeepMind執行長哈薩比斯則認為，通用人工智慧AGI可能只剩幾年就會出現，影響力可能達到工業革命的10倍。

另外，美國參議院情報委員會副主席、民主黨籍參議員華納接受路透社訪問時表示，國會應該在今年底前通過AI安全標準。他認為「AI導致人類滅絕」的說法過頭，但也警告，大量自主AI代理程式未來可能突破防線，入侵銀行、供水甚至醫院系統。華納主張，美國可以參考英國以及其他國家的AI安全規範，長期甚至可以考慮成立新的聯邦機構監管AI。不過共和黨內仍然有不少聲音擔心，過度監管可能妨礙美國AI產業發展。

這篇文章 英王查爾斯示警AI恐威脅人類生存　美議員促年底前訂安全規範 最早出現於 中廣新聞網。