S2#105-6 AI也會犯錯？新北資訊中心主任陳富添：如何用動態治理，讓AI更值得信任？｜特別企劃

【本集節目由 新北市政府資訊中心 合作推動】

🎧 本集來賓：新北市政府資訊中心主任 陳富添

當 AI 開始走進政府治理，從協助分析到提供決策參考，一個新的問題也隨之而來：如果 AI 判斷有誤，該怎麼辦？當資料涉及個資與公民權益，又該如何確保 AI 用得安全、值得信任？

本週特別節目邀請新北市政府資訊中心主任陳富添，分享新北如何成立 AIEC 實驗室，從 AI 導入前的風險評估、分級管理，到上線前的安全檢測與後續持續監控，逐步建立一套與 AI 發展同步調整的治理機制。

因為 AI 的風險並不是「驗收通過」就結束。尤其生成式 AI 的應用快速變化，除了可能出現「幻覺」，也可能在互動過程中被誘導說出不該揭露的資訊。

面對這些新的使用情境，政府如何在鼓勵 AI 創新的同時，也把資安與個資保護放進設計裡？

陳富添也點出另一個資安盲點：生成式 AI 不只可能有幻覺，還可能被「套話」。當攻擊不再只是駭進系統，而是誘導 AI 自己把不該說的資料說出來，政府又該如何替 AI 立下規矩？

🎧 本集精彩亮點：

🔹 AI 實際送進 AIEC 檢測後，通常會從哪些地方發現問題？

🔹 AI 不只是可能「答錯」，還要防範哪些新的使用風險？

🔹面對繁中語境、身分證字號、諧音梗等情境，AI 如何做好個資防護？

🔹 AI 驗收通過就代表安全了嗎？為什麼上線後還需要持續回檢？