來稿｜Deepfake呃貸款案敲響警號　創科局須及早籌謀應對AI風險

AI（人工智能）技術不斷進步，造福人類但同時惹來不少爭議。早前熱爆全球的Chat GPT引發學術論文造假疑慮，最近本港警方亦偵破首宗以Deepfake AI「換臉」技術，成功騙取貸款的罪案，故對於新科技帶來的潛在風險，特區政府絕不可掉以輕心。歐美已積極推動人工智能相關法例，香港被國家定位為國際創新科技中心，筆者建議創科局及早成立專責部門處理AI問題，研究訂立新法例應對，同時參考外國針對AI的防偽技術，制定有效策略，以免出事時才急忙找海外專家求救，有損香港希望向國際展示的「創科之城」形象。

來稿作者：丁海澄

Deepfake（深偽）一詞大約於2017年出現，是深度學習（Deep Learning）與偽造（Fake）混合而成的單字，意指源自AI的「生成對抗網路」（Generative Adversarial Network）偽造技術。2017年美國社群網站Reddit上，一名帳號為deepfake的用戶張貼了一系列色情影片，透過AI技術將色情影片中的人臉更換為Emma Watson等女明星，自此網絡上出現大量仿真度極高的Deepfake假影片。2018年，外媒Buzzfeed以AI技術改變美國前總統奥巴馬的演說內容，偽造了一句「President Trump is total and complete dipshit！（總統特朗普完全就是個笨蛋）」，像真得令人吃驚。

其後有人將科學家愛因斯坦的原音重現，有公司推出一款名為「Deep Nostalgia」的網絡工具，可讓逝去親人的照片變得栩栩如生，頭部能轉動，可以眨眼、微笑，慰藉後人的思念之情。當然，科技有正面價值同時必然衍生「副作用」，2019年有騙徒利用Deepfake技術的語音合成方式，成功令英國一間能源公司的CEO，相信自己正與母公司的大老闆通電話，順利騙取22萬歐元匯款。

去年台灣YouTuber小玉等人，因利用Deepfake技術將知名網紅、明星及名人「換臉」到色情片上，並以此牟利逾千萬台幣，結果被判刑5年半，但可以罰款代替監禁。台灣其後因應小玉事件修例，但仍被批評未能完全對付到Deepfake技術所衍生的罪行。香港方面，立法會2021年通過訂立窺淫罪，但只局限於發布移花接木淫照及「影裙底」等相關性罪行，對於日前偵破的一宗利用Deepfake技術，冒認已報失身份證市民成功網上申請貸款案件，警方也只是以涉嫌干犯「串謀欺詐」罪拘捕6名男女。

可以預見，在資訊流通的香港，無可避免將會陸續出現利用Deepfake技術犯罪的案件，而且不限於製作色情片段或普通呃錢罪行。筆者認為，特區政府必須盡快籌謀出應對AI風險之方法，修訂相關法例，例如在《版權條例》加入AI相關條文，加強窺淫罪涵蓋範圍，甚至參考外國，訂定全新法例，針對AI帶來的風險，防止Deepfake技術被用來干犯嚴重罪行。這方面創科局必然是牽頭者，而警方的網絡安全及科技罪案調查科（CSTCB）也應該參與其中。

其實美國紐約州眾議員Yvette Clarke數年前已提出《深度偽造究責法案（DEEP FAKES Accountability Act）》，主要針對Deepfake罪行，涵蓋情色、誹謗、造謠、影響公共政策和選舉等各式各樣的「換臉」行為，但目的並非不准製作散布此類影片，而是製作和流通者必須加上標示或水印，標明影片、照片或音訊是人造的。筆者建議，本港修例或立法時，也可以此為初步目標，這至少可讓市民對Deepfake技術的罪行有所警惕。

同時，創科局的官員也應負起教育市民的責任，聯同科技專家及警方，製作一些諸如AI罪行「懶人包」，亦可參考台灣行政院政委唐鳳一年多前的做法，以「貼地」手法自製Deepfake影片，去警惕公眾要小心這種新科技帶來的影響，提高市民對不明來源影片要做到「先查證、不亂傳」。當然，高層次的工作，則要由更高級別的官員去籌謀，例如前年美國參議院國土安全和政府事務委員會就通過《深度造假專案小組法案（Deepfake Task Force Act）》，建立了一個公私合作成立的團隊，提出足以檢測數位內容是否偽造的技術和系統，供大眾驗證資訊真假，以遏止Deepfake技術帶來的危害。

水能載舟，亦能覆舟，特區政府應適當管制Deepfake技術的使用，但如何同時確保使用者的創作自由，實在需要仔細研究。筆者希望當局不要只著眼於如何推動AI相關產業發展，或研究建立AI超算中心的可行性，需知道「硬件」以外，「軟件」亦同樣重要。無論如何，高度重視AI風險，及早應對是當務之急，也是想要成為國際創新科技中心必須面對的問題。

作者丁海澄是90後自由工作者，本科主修酒店管理及旅遊業，大學期間曾當逾十份的前線及後勤兼職。文章僅屬作者意見，不代表香港01立場。

「01觀點」歡迎投稿，來函請電郵至01view@hk01.com。來稿請附上作者真實姓名及聯絡方法。若不適用，恕不另行通知。