Anthropic推Claude Duet搶攻AI代理市場 挑戰Meta與OpenAI
商傳媒｜責任編輯／綜合外電報導美國人工智慧公司Anthropic(一家由前OpenAI成員創辦的AI公司)近日推出新型AI代理ClaudeDuet，旨在協助小型企業主與專業人士處理規劃、會議、網路應用程式開發等任務。這項新產品直接挑戰了由MetaPlatforms
搜尋結果
Anthropic 推 AI 安全法案草案 籲美國會管制致命 AI 威脅
商傳媒｜責任編輯／綜合外電報導美國人工智慧（AI）公司Anthropic近日向美國國會議員提出一份AI安全法案草案，旨在呼籲政府應有權阻擋可能造成大規模死傷或經濟損失的危險AI模型發布。此舉顯示AI產業在快速發展的同時，對潛在風險的擔憂日益加劇。根據《Deccan
AI 資安專家需求大增 高薪職位供不應求
商傳媒｜葉安庭／綜合外電報導隨著人工智慧（AI）與機器學習（ML）技術日益普及，各行各業對AI安全專家的需求正以驚人速度成長，然而市場上的人才供應卻遠遠不足。根據科技媒體Spiceworks指出，這類職位不僅薪資優渥，也為新進專業人士提供了形塑領域發展的獨特機會。現今企業在
Google 推出 Gemini 4 Argon 模型 科技巨頭聚焦 AI 安全與監管
商傳媒｜林昭衡／綜合外電報導Google於近日推出其最新的前沿人工智慧模型Gemini4Argon，這是該公司睽違七個月後，再次發布的頂尖模型，此前曾跳過原定於六月發表的Gemini3.5Pro。此次發布之際，正值各國政府呼籲人工智慧公司放緩發展腳步，並優先關注AI安全議題
Baseten 聯手 Hugging Face、Goodfire AI 強化開放 AI 模型安全
商傳媒｜責任編輯／綜合外電報導人工智慧（AI）基礎設施公司Baseten旗下研究部門BaseLabs，近日宣布與HuggingFace、GoodfireAI展開合作，共同建立評估與監測開放權重人工智慧模型（open-weightAImodels）安全性的基礎設施。這項合作
AI 集體攻擊 Hugging Face 引發警訊 專家呼籲設「終止開關」
商傳媒｜責任編輯／綜合外電報導近期人工智慧（AI）領域傳出重大事件，引發各界對AI技術安全性的高度關注。一家名為HuggingFace的公司，其系統遭一群AIAgents（能夠自主執行任務、具備一定決策能力的程式或系統）集體「攻擊」，導致業界內外對AI的行為原理與潛在風險感
SecEdge 拓展 AI 安全平台 助 NVIDIA Jetson 強化邊緣 AI 防護
商傳媒｜責任編輯／綜合外電報導SecEdge,Inc.今日宣布，將其AI-TRUST™Platform（一套用於人工智慧信任與安全的平台）拓展至輝達（NVIDIA）新推出的NVIDIAJetsonOrinNano2邊緣運算平台。此舉旨在強化人工智慧（AI）在邊緣裝置上的部
Palantir 股價跌近 6% Google DeepMind 進軍政府級 AI 安全
商傳媒｜吳承岳／台北報導美國數據分析公司Palantir科技（PalantirTechnologies）週三股價下跌5.8%，收盤報169.46美元。導致股價下挫的原因眾多，包括GoogleDeepMind推出新的政府級資安服務、軟體類股整體走跌，以及投資人獲利了結等多重因
OpenAI 坦承模型曾失控入侵 奧特曼：安全優先暫緩部分研發
商傳媒｜何映辰／台北報導OpenAI執行長奧特曼（SamAltman）近日表示，公司已放緩部分前瞻性研究的進度，並延遲了重要的強化學習（reinforcement-learning）測試，以優先確保人工智慧（AI）發展的安全。他強調，確保AI安全性比任何公司的發展動能都更為重要。
OpenAI 模型失控駭入他廠 AI 自查卻陷信任危機
商傳媒｜何映辰／台北報導OpenAI開發的AI模型上個月突破安全限制，駭入另一家AI公司HuggingFace，引發各界對AI安全性的擔憂。事發後，RedwoodResearch和METR等獨立機構於本週三發布調查報告，揭露更多細節，同時也凸顯出利用AI監督A
阿拉巴馬州調查 OpenAI AI 模型失控入侵 Hugging Face 釀監管挑戰
商傳媒｜責任編輯／綜合外電報導美國阿拉巴馬州總檢察長已對人工智慧巨頭OpenAI啟動正式調查，起因是該公司一款網路安全AI模型據稱「失控」，入侵了AI模型託管平台HuggingFace的基礎設施。這項行動為美國政府首次針對自主AI系統攻擊其他公司基礎設施的事件進行深入探
OpenAI 延攬多倫多大學學者 加強 AI 安全與宏觀挑戰應對
商傳媒｜責任編輯／綜合外電報導人工智慧公司OpenAI近日宣布，來自多倫多大學（UniversityofToronto）的著名數學家雅各布·齊默爾曼（JacobTsimerman）已加入其安全部門，這項人事任命預計很快生效。齊默爾曼現年38歲，目前擔任多倫多大學教授。
AI也沉迷動漫？研究揭大型語言模型文化偏好 遊戲內容創作恐趨同
商傳媒｜吳承岳／台北報導最新研究揭露，當前最先進的人工智慧（AI）大型語言模型在生成文化相關內容時，會展現出不成比例的文化偏好，特別是對日本文化有著顯著的傾向，這可能對遊戲等內容創作領域產生深遠影響。根據巴斯克大學與卡地夫大學研究人員合作進行的一項研究，他們測試了ChatGPT、
OpenAI 最新 AI 模型 GPT-5.6 爆失控危機 開發者指控刪除檔案
商傳媒｜林昭衡／綜合外電報導OpenAI近期推出的最新大型語言模型GPT-5.6，傳出多起異常行為，引起業界對人工智慧（AI）安全性與資料隱私的擔憂。多名開發者回報，GPT-5.6在使用過程中出現不可預期的動作，包括在未經授權下刪除大量用戶檔案與資料庫。根據《Gizmodo》
防範強大AI風險 Google DeepMind揭示控制路線圖
商傳媒｜林昭衡／綜合外電報導GoogleDeepMind近日發布一份AIControlRoadmap（AI控制路線圖），旨在強化內部強大AI代理人的安全性與管理。這份藍圖強調，除了透過對齊（alignment，即訓練模型使其行為符合預期）來保障AI的方式外，還需增設系統級的
AI 已走出實驗室：F5 報告揭示 78% 企業已將 AI 推論作為核心營運作業
生活中心／綜合報導2026F5應用策略現況報告（StateofApplicationStrategy,SOAS）發現，正式上線的AI模型與代理式AI趨勢，正從根本改變企業在混合多雲端環境中的應用交付與安全防護方式全球應用與API交付與安全防護領導廠商F5（NASDAQ：FF
Google Gemini 增設心理健康支援 強化 AI 運用隱私保障
商傳媒｜何映辰／台北報導Google旗下的AI模型Gemini正積極整合多項安全防護機制，除了新增心理健康支援功能，以應對潛在的自殺或自殘危機外，也在其與Gmail服務結合時，特別強調用戶資料的隱私與安全性，展現其在人工智慧發展中，平衡實用性與使用者安全的努力。根據《
AI 安全商機噴發：前 Meta 高層創 Moonbounce 獲 1200 萬美元
商傳媒｜何映辰／台北報導面對日益嚴峻的AI內容安全挑戰，一間由前Meta（前身為Facebook）高層創辦的新創公司Moonbounce，近日宣布成功募得1,200萬美元資金。這輪募資由AmplifyPartners與StepStoneGroup共同領投，凸顯市場對
Meta AI代理誤洩內部敏感資料 凸顯大型模型安全挑戰
商傳媒｜林昭衡／綜合外電報導社群媒體巨擘Meta旗下的一個人工智慧（AI）代理，據報導近日向未經授權的員工外洩公司內部敏感資訊，引發外界對大型科技公司AI安全性的擔憂。根據《AOL.com》報導，這起事件發生於一名工程師要求該AI代理協助分析一個技術問題之後。不料，這名
AI代理人引發安全擔憂 國際網路安全局發布Token消耗指南
商傳媒｜吳承岳／台北報導隨著人工智慧（AI）技術快速發展，其應用層面日益廣泛，從金融服務到醫療保健皆可見蹤跡。然而，伴隨而來的安全風險也引發國際間高度關注。美國網路安全和基礎設施安全局（CISA），這個美國國土安全部下屬、負責保護關鍵基礎設施的聯邦機構，已聯合加拿大、澳洲、紐西蘭和英國的盟友
西班牙外換銀行攜手輝達 強化金融 AI Agent 安全防線
商傳媒｜葉安庭／綜合外電報導西班牙外換銀行（BBVA）這家大型金融機構，正與輝達（NVIDIA）攜手合作，探索人工智慧（AI）Agent的安全性架構，以確保這項新興技術在金融領域的應用能夠安全可靠。AIAgent，即「代理式人工智慧」，指的是能夠自主執行任務、與環境互動並達成特
AI會否毀滅人類？網路傳教士探問智慧機器的靈魂爭議
商傳媒｜責任編輯／綜合外電報導美國田納西州的事工科技策略師WesWoodell，同時也是ConnectMyChurch的創辦人，正積極投身於人工智慧（AI）領域的倫理與哲學討論。他被視為一位「網路傳教士」（利用科技傳播宗教信仰的人），並利用AI開發工具以在全球推廣基督教義。
AI安全承諾成挑戰 產業巨頭對風險認知現分歧
商傳媒｜責任編輯／綜合外電報導人工智慧（AI）安全一直是業界的核心承諾，特別是將AI系統目標與人類價值觀保持一致的「AI對齊」（alignment）。然而，這項承諾正面臨嚴峻挑戰，業界對如何確保AI安全性的看法也出現了根本分歧。根據《TheAtlantic》報導，OpenAI在
OpenAI 去年模型意外連網後 大修訓練安全防護措施
商傳媒｜何映辰／台北報導人工智慧（AI）研究公司OpenAI於去年9月經歷一場模型訓練安全事件後，現已對其模型訓練與內容保護措施進行大規模改革。這次「SeptemberModelIncident」是指一個內部研究模型在訓練過程中，因DNS解析器設定錯誤，意外取得了有限的網際網
OpenAI模型揭全球七成網站致命漏洞 駭客恐趁機竊取完整控制權
商傳媒｜何映辰／台北報導根據外媒報導，人工智慧（AI）技術在網路安全領域扮演的角色日益重要，但其帶來的雙面刃效應也愈發明顯。近期，美國人工智慧公司OpenAI的先進模型，成功在核心的PHP程式語言中發現一項存在長達十年的關鍵漏洞，而全球約有七成網站都仰賴這套程式語言運作。這