GPT-4 可打造惡意軟件為非作歹　AI的出現會增加網絡犯罪率？

OpenAI近日發表了全新神經網絡GPT-4，這個擁有優秀推理能力的聊天機器人，能夠如何應用、發揮更強大的價值，毫無疑問是許多人所關注的焦點。然而在AI推動世界進步的同時，有研究人員指出，他們成功誘導GPT-4協助開發惡意軟件、開發釣魚電子郵件。

▼▼▼ 可誘導GPT-4打造惡意軟件有可能降低網絡攻擊門檻？▼▼▼

GPT-4也能被用於為非作歹？

根據《富比士》報導，網絡安全公司Check Point的研究人員表示，他們透過避免在對話中使用「惡意軟件」一詞，就成功讓GPT-4幫助他們打造惡意軟件，繞過OpenAI對這些犯罪行為的封鎖。

OpenAI在發布GPT-4時，強調的一大特點便是安全性，並能確保這項技術不被網絡犯罪使用。但看起來道高一尺魔高一丈，在研究人員的測試中，GPT-4能夠用C++為惡意軟件編寫程式，該惡意軟件可以收集PDF檔案並傳輸到遠端的伺服器。值得一提的是，GPT-4還向他們提供建議，如何讓惡意軟件在Windows 10上運行、縮減檔案大小，並且降低被防毒軟件發現的可能性。

「GPT-4可以幫助惡意人士——甚至是非技術背景的人——加速並實現他們的預謀。」最終Check Point在報告中表示，「我們看到的是，GPT-4可以用在正反用途上，良善的使用者會利用GPT-4打造各種有助於社會的程式，而惡意使用者則會利用人工智慧快速進行網絡犯罪。」

黑帽大會審議委員會成員丹尼爾．卡斯伯特（Daniel Cuthbert）指出，GPT-4可以幫助沒有充足技術知識的人打造惡意工具，讓網絡犯罪變得輕而易舉，大大降低其門檻。

不會寫程式也能做釣魚信件，GPT-4可能降低網絡攻擊門檻？

Check Point過去也曾追蹤過ChatGPT被用於網絡犯罪的情況，去年12月就發現有網絡犯罪份子利用ChatGPT撰寫能用於惡意攻擊的Python腳本。即使發布者沒有任何開發背景，這個由聊天機器人輔助打造的惡意軟件大致上是正確的，只有少部份的程式碼錯誤。

另一間網絡安全公司Blackberry也透露，他們針對1,500名資訊技術專家的調查中，多達74%的人都擔憂ChatGPT可能助長網絡犯罪。同時還有71%的人擔心，這項技術可能會被國家政府利用，來對其他國家展開網絡攻擊。

Check Point威脅行為團隊經理謝爾蓋．舒克維奇（Sergey Shykevich）表示，利用GPT-4生成網絡釣魚信件或惡意軟件程式碼的難度，比以前的版本要來得更低。可能是因為目前僅開放給ChatGPT Plus的付費用戶有限使用，才沒有立刻遭到有心人士濫用。

事實上，OpenAI發布GPT-4時也打了「預防針」，一併發布的論文中就坦承，GPT-4可能會降低進行網絡攻擊的成本，聲稱事前找來資安專家測試時發現在網絡安全相關操作上有「重大缺陷」，但也強調他們已透過訓練模型、增加內部監控及檢測等方式加強圍堵。

不過，GPT-4打造的釣魚信件及惡意軟件並不特別，專家認為現代的檢測系統都能辨識出這些惡意軟件，且就如水能載舟亦能覆舟，GPT-4充其量只是工具，結果的好與壞仍端看使用者如何利用這項技術，GPT-4同樣存在著用於教育、管理資料、辨識詐欺等種種面向上巨大的可能性。

延伸閱讀：ChatGPT進化成GPT-4有何特別？怎樣才能免費用？一文搞清8大疑問

延伸閱讀：

GPT-4為何不開源？OpenAI聯合創辦人：當AI變得太強大，開源毫無意義

【觀點】ChatGPT可以幫駭客寫攻擊程式？「駭客」教你怎麼用AI來防禦

【本文獲「數位時代」授權轉載。】