院士張鈸：AI算法有安全隱患 呼籲多方共治
經濟觀察網 記者 沈怡然 隨着AI技術的精進和產業落地，業界開始聚焦關於產業治理的爭端和問題。
8月3日，首屆全球數字經濟大會的人工智能產業治理主題論壇在京舉辦，該論壇由北京市經濟信息化局、海淀區人民政府共同主辦，由清華大學人工智能研究院、北京智源人工智能研究院以及北京瑞萊智慧科技有限公司共同承辦。
在論壇上，中國科學院院士張鈸首先拋出一個觀點：當前，AI的安全治理是迫在眉睫的，隨着技術潛入到“深水區”，研究界發現，AI的算法存在一些根本性的問題，本身就帶有不安全性，容易受到攻擊。
張鈸認爲，對人工智能進行治理，防止它被誤用、制止它被濫用，需要從技術創新層面發力去“治本”，但這條路漫長且艱難，同時，也要從法律法規、倫理規範、行業共識等不同層面去“治標”。
爭議和問題隨之出現，爲何AI的安全漏洞難以修補，AI的發展方向是否正確，政府、企業在其中又該承擔什麼責任？
原理的漏洞
行業普遍將人工智能的主體分爲四類，研發者、設計者、部署者、用戶。張鈸表示，信息技術產業發展中有很多安全性問題，普遍是由設計的缺陷造成的，這個缺陷被利用後，對系統進行了攻擊，所以只要把漏洞補上就能解決。
但AI技術所面臨的安全問題是非常特殊的，其問題不在於設計，而是源自算法本身的不安全性。在張鈸看來，這種算法的不安全性，是由第二代人工智能所引起的。
第一代人工智能指的是用計算機來解決問題，第二代指的是以AlphaGo爲標誌的深度學習。張鈸表示，在第二代技術中，對圖像、語音、文字的處理都可以利用深度學習來做，這種技術在數據樣本充足的條件下，在人臉識別、語音識別等場景下，效率是非常高的。
但是，裡面用到的算法非常脆弱。張鈸舉例稱，“兩張一模一樣的雪山圖片，如果對右圖加入一點噪聲，那麼人類視覺看起來還是雪山，但計算機就會將右圖識別成一條狗。可以看出人類視覺和計算機識別完全是兩回事”。
張鈸認爲，這是有可能通過創新來解決的，方案之一就是發展第三代半導體技術，但這是一項長期任務，技術的路徑也非常艱難。
法律的治理
針對不安全性，治理的目標也指向兩類行爲，一類是有意識地濫用AI技術，一類是無意識地誤用。前者行爲需要通過法律來解決，加以制止。
中倫律師事務所合夥人陳際紅在會上表示，當前，人工智能的立法，已經涉及到隱私保護、數據安全、網絡安全、公平競爭、消費者權益保護等方面。
人工智能產業離不開數據處理，一個重要的立法就是《數據安全法》，該法將於今年9月生效。陳際紅表示，該法的監管對象是數據處理活動，一個重要的內容是，建立分類分級保護制度。在判斷一種數據能否使用、能否公開、能否跨境運輸方面，這些內容提供了很好的標準。如果是關係到重要民生、國家安全的核心數據，出境則需要強監管。
另一項限定關於數據交易。陳際紅表示，當前一些數據交易機構的運作，引起了很多問題，比如數據的可交易性、對隱私的侵犯等。該法也針對數據中介做了一系列明確規定和管控。
同時，該法也建立起國家安全審查制度，同時，對數據處理活動也提出了監管措施，以及一定的反制措施。隨着AI與社會的關係發展密切，關於立法、司法解釋會延伸到技術的更多角落。
倫理的規範
若將AI作爲客體，則可用法律來治理。但換個角度，我們究竟要發展什麼樣的人工智能，過去的路是否走偏了？釐清它的願景，對於當前的治理也是非常重要的。
論壇上，中國科學院自動化研究所研究員、聯合國教科文組織人工智能倫理特設專家組專家曾毅表示，全球發展AI的一個共同目標是“以人類爲中心”，這會讓人忽略技術對環境、生態的影響，甚至讓人過於看重短期利益。
在曾毅看來，願景應該是打造一個負責任的、可持續的人工智能，這也是最大倫理原則，“如果人工智能的創新的目標就是賺錢，那麼大多數可持續發展目標無法通過人工智能來實現”。
國家新一代人工智能治理專委會曾對AI提出一些原則，重點之一是協調好發展與治理的關係；重點之二是，在安全可靠、可控的背景下，推動的不僅僅是經濟發展，同時關注經濟社會和生態協同的可持續發展，共建人類命運體。
這些治理的理念必須落實到參與者之間。曾毅表示，這和企業非常相關，但絕對不是企業唯一的問題，還涉及到設計者、研發者、供應者、部署者、管理者，真正實現多方共治。
企業的責任擔當
在本次大會上，首個《人工智能產業擔當宣言》正式發佈，該宣言由北京智源人工智能研究院和瑞萊智慧共同發起，百度、華爲、螞蟻集團、寒武紀、愛筆科技、第四範式、出門問問等在內數十家研究機構與創新企業聯合參與。
宣言包含五項倡議，首先強調，人工智能系統的設計、研發、實施和推廣應符合可持續發展理念，以促進社會安全和福祉爲目標，以尊重人類尊嚴和權益爲前提。其次在技術能力方面，提出要最大限度確保人工智能系統安全可信，提高魯棒性及抗干擾性，要增強算法透明性和可解釋性，同時保障各方權利和隱私，對用戶數據提供充分的安全保障。
對於該宣言，北京瑞萊智慧科技有限公司CEO田天表示，讓人工智能更好地服務於人類，是行業共同的目標，當整個社會重新審視技術的價值，科技從業者更應感受到科技治理的緊迫性和使命感，應當積極主動開展自治工作，同時開放共享，共舉科技擔當。
版權聲明：以上內容爲《經濟觀察報》社原創作品，版權歸《經濟觀察報》社所有。未經《經濟觀察報》社授權，嚴禁轉載或鏡像，否則將依法追究相關行爲主體的法律責任。版權合作請致電：【010-60910566-1260】。
沈怡然經濟觀察報記者
大科創新聞部記者關注硬科技領域，包括機器人及人工智能、無人機、虛擬現實（VR/AR）、智能穿戴，以及新材料領域。擅長企業深度報道及上市公司分析報道。發現前沿技術、發展趨勢投資價值。