高雄市議員鄭孟洳8日於市議會民政部門業務質詢指出，市府近兩年累計偵測逾743萬次網路攻擊紀錄，隨著人工智慧（AI）逐步導入1999市民服務及公文系統，市府不能只追求行政效率，也應同步強化資料安全與人工把關機制。她要求市府兩個月內完成AI作業指引，並常態編列資安演練經費，將AI攻擊測試納入攻防演練；研考會主委陳博洲允諾配合辦理。

鄭孟洳表示，AI代理工具快速發展，從智慧客服、知識庫、導覽服務到交通安全平台，AI已逐步進入市府各項業務。未來高雄也規劃透過CityGPT協助1999產生逐字稿、摘要及案件分案，公文系統則分階段導入自動建立簽稿及生成式AI輔助撰稿，支持運用科技減輕公務人員行政負擔，但相對的資料使用、操作權限及人工覆核責任也必須同步建立。

↑圖說：鄭孟洳表示，AI代理工具快速發展，已逐步進入市府各項業務，但相對的資料使用、操作權限及人工覆核責任也必須同步建立。（圖片來源：鄭孟洳服務處提供）

她以1999案件為例，民眾來電可能涉及姓名、電話、住址等個人資料，甚至提出違法檢舉並要求保密，若AI在整理摘要時遺漏保密要求，承辦人員又未進一步核對，恐衍生資訊外洩風險；若AI分案錯誤或公文引用錯誤資料，也可能直接影響市民權益。因此，AI可以協助整理資訊，但最終確認責任仍應由權責人員承擔。

鄭孟洳指出，她自去年4月起即要求市府制定AI使用規範，但市府先前曾以等待中央子法及配套完備為由回應。她認為，1999及公文系統涉及個資、機密及未公開資訊，市府應先建立明確的內部規則，不能在AI應用持續擴大的同時，相關管理規範卻持續等待。

她要求研考會會同法制局，兩個月內完成AI作業指引，明確規範可使用的AI工具、不得輸入的資料類型、AI可執行的工作範圍，以及必須由人員確認的關鍵環節，並建立年度稽核機制，確認各局處落實情形。對於委外廠商，也應明定資料使用限制，禁止擅自利用市民資料進行模型訓練或其他用途。

↑圖說：2024年8月至2026年8月兩年間，高市府累計偵測逾743萬次網路攻擊紀錄，其中研考會及所屬資訊處約281萬次。（圖片來源：鄭孟洳服務處提供）

對此，陳博洲表示，市府年初已有AI指引草案，後續將依中央最新人工智慧風險分類框架調整，並會同法制局在兩個月內完成。他強調，市府重視資料自主控管，機密資料不得上雲端，必須留在市府內部系統，並將進一步明定AI應用範圍及資料保護原則。

除AI使用規範外，鄭孟洳也關注市府面對網路攻擊的防禦能力。依市府資料，2024年8月至2026年8月兩年間，累計偵測逾743萬次網路攻擊紀錄，其中研考會及所屬資訊處約281萬次。她強調，攻擊紀錄並不代表成功入侵，但資訊處掌管市府多項共用系統，一旦遭到突破，影響可能擴及多個局處，因此更應列為優先防護對象。

鄭孟洳表示，面對AI快速被駭客運用的新型態威脅，市府資安演練也必須與時俱進。她指出，2025年原定辦理的紅藍軍攻防演練因中央補助預算遭刪而未執行，但中央補助減少並不代表網路攻擊會停止，因此市府應以自有預算維持常態性攻防演練，優先保障重要及共用系統，再透過中央補助擴大演練規模。陳博洲表示，2026、2027年相關演練經費已由市府自行編列。

↑圖說：鄭孟洳提出AI治理與資安防護三項要求。（圖片來源：鄭孟洳服務處提供）

鄭孟洳進一步要求，未來資安演練應納入AI系統滲透測試及提示詞注入攻擊測試，檢驗AI系統是否能阻擋藏在資料中的惡意指令，避免發生未經授權的資訊外洩或系統操作。她建議優先針對研考會所管全市府共用系統，以及預計導入CityGPT的1999、公文系統進行測試，陳博洲也允諾將AI攻擊測試納入演練。

鄭孟洳強調，AI新功能正式上線前，也應完成必要的安全測試，若發現資料外洩等重大缺失，在問題尚未改善前就不應上線；演練發現的弱點也不能停留在報告階段，應訂定改善期限，完成修正後再次測試，逾期未改善則由主管追蹤並納入機關考核。

她表示，推動智慧城市不只是讓AI協助公務人員提升效率，更重要的是確保市民資料受到完善保護、行政決策有人負責，唯有讓AI應用與資安防護同步到位，才能讓科技帶來的便利真正成為市民可以信任的公共服務。

本文由《品觀點》授權提供