美國聯邦調查局：黑客正廣泛使用AI發動襲擊

5月12日《參考消息》援引美國《華爾街日報》網站報道稱，美國聯邦調查局（FBI）高級官員說，形形色色的黑客正在廣泛使用人工智能（AI）攻擊美國公司、地方政府和聯邦機構。

FBI網絡部門副助理主任辛西婭·凱澤說，犯罪分子正在利用生成式人工智能等技術發動襲擊。這些攻擊包括有針對性的網絡釣魚和社會工程攻擊。黑客利用深僞技術說服員工相信，他們的上司正在給他們打電話，或者利用從社交媒體或者更大的網絡上獲取的信息，專門對個人發動特定攻擊。

凱澤週三在網絡安全行業的RSA大會間隙接受採訪時說：“突然之間，初學者可以達到中級水平，就連我們技術最先進的對手也至少在提高他們的效率。”

FBI的網絡分析人士發現，黑客能力的突然提升在一定程度上源於生成式人工智能和其他形式的技術。這包括，攻擊者能夠發現目標系統中的編碼錯誤，創造新的方法來隱藏更長時間，或者更快地繪製網絡地圖。

通過商業方式可以獲得的生成式人工智能產品，比如OpenAI，通常包括旨在防止它們被用於惡意目的——比如編寫惡意軟件或釣魚郵件——的防護措施。然而，黑客們開發出了自己的大語言模型，這種模型中就沒有這樣的限制措施，有些情況下他們還在暗網論壇上出售這種模型。

效率提高——以及人工智能發展的速度——已經成爲FBI在制定搜捕網絡犯罪分子的戰術時需要關注的問題。

FBI網絡部門負責人約瑟夫·什切爾巴在接受採訪時說：“我們正在研究人工智能如何真正提高他們的能力，他們的技術已經超級先進了。”

他說：“這將會帶來什麼，不僅是在今天，而且在未來12到18個月裡將從戰略上帶來什麼？”

OpenAI公司的ChatGPT所推廣的大語言模型等生成式人工智能平臺，使用戶能夠根據人類的提示迅速生成大量的文字和逼真的藝術品，快速分析海量數據集，修改視頻，並製作模仿某個人的音頻片段。

什切爾巴說，儘管人工智能多年來一直以機器學習和這種技術的其他子集形式存在，但由於ChatGPT和其他平臺的突然流行，人工智能的使用急劇增加。

黑客並不是唯一使用人工智能的羣體。FBI也在探索執法部門可以如何從這項技術中獲益。凱澤說，使用情況主要分爲三類。

凱澤說，鑑別FBI從日常行動中獲得的大量數據——例如搜查令的回覆件——是一個應用人工智能的重要領域。她說，對於像公衆提供線索的熱線——每天會接到數千個電話——這樣涉及大量數據的工作來說，自然語言處理也是如此。她說，FBI還利用人工智能處理生物特徵識別。

FBI內部的人工智能使用最終由一個道德準則委員會管理，該委員會於2021年成立。但什切爾巴說，在達到這一級別前，各項目會受到嚴格審查，包括對於將要使用的數據對隱私影響的評估、適宜性問題，以及是否真的需要人工智能，還是其他技術也能發揮作用。

凱澤說：“我們提出了很多不同的、專門的問題，以確保這是一個一貫的、通用的程序，每次都是這樣。”