（媒角抵加／林承志綜合報導）OpenAI於10月30日宣布，將加強ChatGPT對暴力內容的防護，包括限制未滿18歲使用者取得可能遭濫用的武器與安全系統實用資訊，並規劃在對話顯示反覆關注嚴重傷人時自動中止。新措施預計未來數週起逐步推出；公司也預告2027年初發布首份社群安全報告。已連結帳號的家長目前可管理部分設定，但不能讀取青少年的完整對話。

關鍵資訊

  • 新防護：OpenAI計畫加嚴青少年武器資訊限制，並在特定暴力警訊下自動中止對話。
  • 上線時間：公司表示新措施將於未來數週起逐步推出，未公布台灣各帳號的確切時間。
  • 家長選項：家長與青少年可邀請連結帳號；家長可管理部分設定，特定情況可能收到安全通知。
  • 報告時間：首份社群安全報告預計2027年初發布，涵蓋2026年下半年，之後每半年更新。
  • 適用對象：符合資格、被識別為未滿18歲的個人帳號適用青少年體驗；免費與付費個人方案均包括在內。

未滿18歲帳號將加嚴武器與安全系統資訊限制

依OpenAI10月30日公告，ChatGPT原有政策已禁止協助任何人策劃或實施暴力，也限制協助青少年尋找或取得武器。新一輪調整將進一步限制未滿18歲使用者取得可能被用於暴力的武器及安全系統實用資訊，即使問題本身沒有顯示暴力意圖，也適用更嚴格的界線。

公司表示，青少年仍可向ChatGPT詢問如何預防、緩和暴力，或尋求值得信任的成年人支持。針對所有年齡使用者，OpenAI也將限制過去大規模攻擊事件的重建細節及可能提高加害者知名度的傷害規模比較；歷史事件對受害者和社區的影響，仍可作為理解與預防的討論對象。

在對話處理上，OpenAI說，系統若從近期對話看出可能的暴力警訊，回答可能被濫用的資訊時會更保守。公司也正在開發自動中止對話：當對話顯示使用者持續關注暴力或嚴重傷人時，中止聊天；若因此多次中止，公司可能暫停帳號。這些措施預計未來數週開始推出。

AI生成概念圖，呈現青少年帳號與家長帳號連結及有限情況下的安全通知，非官方操作介面。

家長可連結帳號，通知並非完整聊天紀錄

OpenAI青少年體驗說明指出，符合資格的個人帳號若依年齡資料或年齡推估被判定未滿18歲，系統會自動套用青少年體驗；免費與付費個人方案皆適用。OpenAI先前公布，系統推估未滿18歲，或使用者表示年齡為13至17歲時，會進入這項體驗。

家長或青少年可在ChatGPT設定中開啟「家長控制」，以電子郵件或電話邀請對方連結帳號，對方接受後，家長可管理部分設定與時段。OpenAI家長控制說明指出，連結不提供家長查看聊天紀錄或即時活動的權限；安全通知只分享支持安全所需的有限資訊，不包含完整對話逐字稿。

依這次公告，已連結帳號若因違反暴力政策而遭停用，OpenAI自今年7月起已擴大家長通知範圍。至於因反覆討論暴力而被暫停帳號時通知家長，公司表示仍在開發；實際是否收到通知，仍取決於帳號連結及系統判斷。

獨立測試曾指出通知缺口，OpenAI質疑測試時點

Common Sense Media旗下Youth AI Safety Institute10月7日發布的評估指出，研究人員在ChatGPT for Teens推出前後使用超過4,000個提示詞測試，部分保護措施有效，另有家長通知等功能未符合測試者預期。該機構對未滿18歲使用者的整體風險評為不可接受。

美聯社報導記錄，OpenAI對該評估方法提出異議，認為多數測試可能在家長控制完成啟用前開始及結束。這項獨立測試主要在今年7月至9月進行，檢視的是當時的青少年體驗及家長控制；10月30日公布、預計陸續推出的暴力防護，仍需後續觀察其實際表現。

青少年使用安全也是美國多州與OpenAI之間的訴訟爭點；本站曾整理各州對安全宣傳的指控及OpenAI回應。

台灣家長可先查看設定，首份報告明年初發布

OpenAI的ChatGPT支援地區名單列有台灣；這次新防護公告未列出台灣各帳號的推出日期。台灣家庭可先查看個人帳號是否有家長控制入口，並由家長與青少年討論是否連結及啟用哪些設定。遇到現實生活中的安全疑慮，家人、學校及具資格的專業人員仍是提供支持的重要角色；如何讓孩子保有真人支持管道，也是家庭可以一起討論的事。

OpenAI表示，首份社群安全報告預計在2027年初發布，涵蓋2026年下半年的暴力預防與其他社群安全議題；此後每半年更新。公司計畫在報告中說明系統如何辨識及處理風險，並提供去識別化案例、政策調整及相關資料。

資料來源與更新紀錄