《人工智能安全治理框架》發佈

9月9日，全國網絡安全標準化技術委員會發布《人工智能安全治理框架》1.0版。

《框架》提出了包容審慎、確保安全，風險導向、敏捷治理，技管結合、協同應對，開放合作、共治共享等人工智能安全治理的原則。

《框架》對人工智能可能面臨的安全風險進行了梳理和歸類，包括內生安全風險和應用安全風險。內生安全風險包括偏見歧視、訓練數據被投“毒”等風險；應用安全風險包括用於違法犯罪活動，加劇“信息繭房”等風險。

針對不同類型的安全風險，《框架》提出從技術、管理兩方面提出防範應對措施。針對內生安全風險，提出安全開發運維、輸出內容標識等技術手段，並推動負責任研發應用體系、供應鏈安全保障等管理措施；針對應用安全風險提出安全防護機制、最終用途追溯等技術手段，並實施分類分級管理、人才培養等管理措施。

此外，《框架》還提出了人工智能安全開發應用指引，爲促進人工智能健康發展和規範應用，提供了基礎性、框架性技術指南。