AI換臉騙案|內地亂象!楊幂/迪麗熱巴被冒充帶貨 有人被呃400萬
AI 換臉冒充明星帶貨騙案|人工智能技術今年迎來爆發期,除了 ChatGPT 等文字對答工具之外,以 AI 技術為底層的影像應用亦更為成熟,且傾向普及、平民化,例如 AI 換臉就變得非常低成本,然而此技術在中國內地被人濫用,連帶的法律問題就引起關注。
「楊幂」、「迪麗熱巴」頻現身直播平台帶貨
直播帶貨在中國內地的網絡平台早已不是新事,近年不少明星藝人都會間中進行帶貨,但頂多也只是客串性質而已;然而近日,在內地多個直播帶貨平台就出現了大量相貌近似內地頂流明星的直播主現身帶貨。
這批帶著「楊幂」、「楊穎(Angleababy)」、「迪麗熱巴」樣貌的直播主,不斷在網絡上出現並推銷貨品,間中還會出現同一明星出現在兩個不同的直播間,仔細留意一下,原來他們都是配置 AI 換臉技術上陣的普通直播主持。
3.5 萬人民幣就可以買「明星臉」
AI 換臉技術早在數年前萌芽,但需要專業的硬件以及運算需時,一直未能普及。但到近一兩件,新的技術及工具將 AI 換臉的成本降低不少,即使是一般的家用電腦,只需要配合適當的軟件及數據,平民百姓都可以自己訓練出一套 AI 換臉模型;即使不諳 AI 技術的話,甚至有網上版本的簡易換臉工具可以使用。
由於中國內地的直播生態使然,有開發者就從中看到商機,在網上兜售 AI 換臉的建模服務,收費每次僅為 3.5萬人民幣,約 30 分鐘就可以將訓練好的模型送到買家手上,除了技術普及與競爭日增,這個收費預期還會逐步下調。
騙徒靠 AI 換臉騙財、有人被騙400萬人民幣
在中國內地,以 AI 換臉冒充他人有侵犯肖像權之嫌,故絕大多數的帶貨直播頂多只會為直播主換上酷似明星的面孔,但就不會標明是某明星進行直播,以規避明星本人起訴。然而,不法份子已經將魔爪伸到 AI 換臉技術之上,未來即使透過視像看著親友的面孔,都要小心提防。
4月20日,福州市某科技公司法人代表郭先生的微信好友突然通過微信與他視像通話,稱其朋友在外地競標,需要繳納 430 萬元人民幣保證金,而且需要公對公賬戶過賬,想要借郭先生公司的賬戶走賬。
「好友」要了郭先生的銀行卡號,聲稱錢已經轉到郭先生的戶口。基於對好友的信任,加上已經經視像聊天,郭先生沒有核實錢款是否到賬,就分兩筆把 430 萬元人民幣轉到了對方提供的銀行卡上。郭先生說,後來他撥打了好友電話,才知道自己被騙徒利用 AI 換臉技術騙了,整個過程不到 10 分鐘。
幸運的是,接到郭先生報警後,福州、包頭兩地警銀迅速行動,成功攔截了當中的 336.84 萬元人民幣,但仍有 93.16 萬元已被轉移人民幣,目前正在全力追繳中。