駭客用ChatGPT強化網攻 微軟點名俄羅斯北韓伊朗

微軟是OpenAI主要財務支持者,並使用稱爲「大型語言模型」(Large Language Model,LLM)的所屬AI技術來支援自己的應用程式(app)和軟體。 圖/路透社

美國人工智慧開發公司OpenAI和微軟今天表示,與俄羅斯、北韓、伊朗政府有關聯的駭客已經開始利用聊天機器人ChatGPT,探尋發動網路攻擊的新方法。

法新社報導,OpenAI和微軟(Microsoft)表示,兩家公司加強阻止國家代理人惡意利用這種熱門人工智慧(AI)聊天機器人,與駭客有關聯的帳號已被停用。

微軟是OpenAI主要財務支持者,並使用稱爲「大型語言模型」(Large Language Model,LLM)的所屬AI技術來支援自己的應用程式(app)和軟體。

微軟表示:「包括髮表這項研究在內,微軟與OpenAI合作目的是爲了確保安全、負責地使用諸如ChatGPT之類的AI技術。」

微軟指出,駭客正利用LLM,來「推進他們的目標和攻擊技術」。

ChatGPT背後的微軟公司在另一則部落格發文中表示,包括使用領先世界的GPT-4模型在內,OpenAI的服務被用在「查詢開放原始碼訊息、翻譯、找出編碼錯誤、執行基本編碼任務等」。

根據微軟,與俄羅斯軍事情報有關的組織「森林暴雪」(Forest Blizzard)已改用LLM來「研究各種可能和烏克蘭傳統軍事行動相關的衛星和雷達技術」。

微軟指出,這樣的使用方式「是運用新技術探敵案例的典型」。

和北韓有關的Emerald Sleet採取的行動則涉及和這個共產主義政權有關的智庫與專家研究,以及可能用於網路釣魚活動的內容。

與伊朗革命衛隊(Revolutionary Guards)有關的Crimson Sandstorm則利用ChatGPT來對惡意軟體進行程式編排和障礙排除,併爲駭客尋找避免被偵測到的訣竅。

OpenAI表示,這樣的危險是「有限的」,但該公司試圖於威脅不斷演進前搶佔先機。

OpenAI指出:「需要對少數惡意行爲者持續注意,這樣其他人才能繼續受益。」