金融業運用AI指引草案 金管會建議訂緊急關閉機制

迎接AI浪潮,金管會今天公佈金融業運用AI指引草案,其中,針對重要關鍵系統,金管會建議金融機構保留人員對AI系統的最終決策權,以確保在人員無法控制或介入決策的情況下,仍可由人員安全地關閉AI系統。

金管會今年10月正式發佈金融業運用AI核心原則,並在今天進一步公佈金融業運用AI指引草案,涵蓋總則及6大章節,並將於公共政策網路參與平臺「衆開講」公開徵詢外界意見60天。

金管會綜合規劃處長鬍則華今天在例行記者會表示,金融業運用AI指引主要是提供金融業在導入或運用AI時可注意事項,屬於行政指導性質,不具法律拘束力,目的在鼓勵金融業在風險可控的情況下,導入、使用並管理AI,未來金融業公會若要訂定或修訂AI相關自律規範,可參考金融業運用AI指引。

金管會於總則明定AI及生成式AI定義,AI系統指透過大量資料學習,例如利用機器學習等模仿人類學習、思考及反應模式的技術;生成式AI則指可以生成模擬人類智慧創造內容的相關AI系統。

指引第一章聚焦建立治理及問責機制;第二章聚焦重視公平性及以人爲本的價值觀,其中,針對重要關鍵系統,金管會建議金融機構保留人員可對AI系統進行審查、覈准或最終決策權,包括在人員無法控制或介入決策的情況下,仍可由人員安全地關閉AI系統。

指引第三章聚焦保護隱私及客戶權益,包括應注意保護客戶隱私權、妥善蒐集及處理客戶資訊,避免資料外泄風險;第四章聚焦確保系統穩健性與安全性;第五章聚焦落實透明性與可解釋性;第六章則聚焦促進永續發展,包括建議金融業建立機制辨識與評估AI系統對環境、社會產生的影響或風險。

延伸閱讀