能唱能騙　AI震撼到的不只孫燕姿

許久沒在螢光幕前亮相的華語流行樂壇天后孫燕姿，最近在人工智能（AI）加持下頻頻出現在公眾視線裡。

打開中國影音網站B站，可以發現「孫燕姿」翻唱各類歌曲的作品從4月起爆發式增長，當中不少都獲得百萬點擊率，比如周杰倫《髮如雪》、南拳媽媽《下雨天》，以及王菲《紅豆》等等。有媒體不完全統計，這類翻唱作品至今已有超過1000首，數量遠遠超出孫燕姿出道20多年的作品總和。

但如果仔細留意，可以發現這些歌曲都不是孫燕姿本人親自翻唱，而是「AI孫燕姿」。

所謂AI孫燕姿，簡單來說，就是透過模型訓練和後期處理，讓AI用孫燕姿的聲音翻唱其他歌手的歌曲。雖然AI翻唱技術在唱腔、技巧上離原唱者還有一定差距，但音色已經基本實現復刻，足以以假亂真。

有網民點評：「真以為是孫燕姿本人翻唱了……很有孫燕姿的音色特色，除了唱腔和技巧差一點，人聲和背景音樂的融合度很高，完全就是一首高分新歌。」

也有網民開玩笑說：「真的太像燕姿本人唱的。燕姿，如果你還不出來開演唱會，發新專輯，你就要被AI取代了！」

隨著AI孫燕姿不斷在各大網絡平台發行翻唱歌曲，加上網絡輿論發酵，相關話題「AI出來後第一個失業的是孫燕姿」、「專家稱孫燕姿音色不受法律保護」前不久也登上了微博熱搜榜。截至5月23日下午1時，兩個話題的閱讀次數都分別超過1億次。

在討論度居高不下的背景下，天后孫燕姿本人5月22日終於發文回應。她在個人音樂公司「Make Music」的部落格自嘲寫道：「我的粉絲們都已跳槽，也同時接受我就是一名冷門歌手的事實，而我的AI角色也成為了目前所謂的頂流。畢竟該怎麼跟一個每幾分鐘就能推出一張新專輯的『人』比呢？」

儘管如此，孫燕姿在文章中沒有對AI發展表現出悲觀或消極的態度。相反的，她形容自己就像一個吃著爆米花、坐在電影院最好座位上的人。「在這無邊無際的存在之海中，凡事皆有可能，凡事皆無所謂，我認為思想純淨、做自己，已然足夠。」

AI孫燕姿違法侵權嗎？

音樂版權律師趙智功接受《新京報》貝殼財經採訪時說，AI孫燕姿作品是有版權問題的，具體需要根據不同的使用場景來追究；如果是目前B站影片上傳者（簡稱UP主）「自娛自樂」不涉及商業化的情況，可能不涉及著作財產權，但還是涉及著作人身權，比如署名、表明表演者身份、表演形象不受歪曲等。

趙智功還指出，孫燕姿翻唱什麼歌曲，本來就是應該由她本人以及其經紀公司或唱片公司，基於藝人設定和音樂市場的考量共同決定的。但現在AI孫燕姿可以翻唱任何歌曲，「AI翻唱Cover歌曲侵犯了孫燕姿本身的市場資源」。

曾就職於多家音樂流媒體平台版權部的李強也持相同看法。他並說：「在未獲得歌手授權下，AI對歌手聲音的模擬甚至公開展示，應屬於對歌手表演者權的侵權行為。」

據觀察，AI歌手在中國網絡上並不罕見。在AI孫燕姿誕生之前，已經有「AI周杰倫」，「AI王菲」、「AI鄧紫棋」的作品流傳於B站。目前，包括孫燕姿在內，尚未有歌手或經紀公司發佈官方聲明禁止AI翻唱行為或對此追責。

中國出現AI換臉新騙局 10分鐘被騙430萬元人民幣

除了孫燕姿，另一則有關AI的話題近來也刷遍中國網絡，那就是AI詐騙。

內蒙古包頭市公安局旗下微信公號5月20日發佈通報稱，當地警方本月初破獲了一起使用AI技術進行電信詐騙的案件，受害者是福州市某科技公司法人代表郭先生。

根據通報，郭先生的好友有一天突然透過微信視訊聯繫他說，自己的朋友在外地競標，需要430萬元（人民幣，下同）保證金，且需要公對公帳戶過帳，想要借郭先生公司的帳戶走賬。

這位好友也向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的帳戶上，還把銀行轉帳底單的截圖透過微信發給了郭先生。

通報指出，由於是視訊聊天，加上出於對朋友的信任，郭先生沒有核實錢是否到賬，先後分兩筆把430萬元給對方打了過去；錢款轉帳完成後，郭先生還給好友微信發了一條短訊，告訴他事情已經辦妥。不料，「好友回過來的消息竟然是一個問號」。

通報說，郭先生隨即撥打好友電話核實，結果對方堅稱沒有這回事，他這才意識到自己遇到了使用AI換臉技術的「高端」騙局，並立即報警。

事後回憶起當時的情形，郭先生說：「從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友帳戶轉過去，而且當時是給我打了視訊的，我在視訊中也確認了面孔和聲音，所以才放鬆了戒備。」

據《每日經濟新聞》報道，AI詐騙目前有聲音合成和AI換臉兩種形式。聲音合成詐騙，騙子會先透過騷擾電話錄音等來提取某人聲音，獲取素材後進行聲音合成，從而可以用偽造的聲音騙過目標。

至於AI換臉，騙子會先分析公眾在網上發佈的資訊篩選目標人群，之後透過AI技術換臉偽裝，再透過視訊進行資訊確認，完成詐騙。

博通諮詢首席分析師王蓬博向《北京商報》說：「我覺得科技的進步也讓防範詐騙的難度在提升。發生的原因還在於資訊爆炸導致的資訊洩露過度。」

用AI虛構新聞賺流量

在網絡高速時代的背景下，AI帶給人們的挑戰還不止於此。

中國多家媒體在約兩個星期前報道，一名男子因利用人工智能軟件ChatGPT炮製虛假新聞，被警方採取刑事強制措施。彭博社稱，這似乎是中國首起與濫用人工智能相關的刑事案件之一。

甘肅省平涼市公安局5月7日在其微信公號發佈通報稱，涉事的洪姓男子「利用現代技術手段編造虛假資訊，並散佈在網絡上，被大量傳播流覽」。此前當地警方發現，一篇編造關於火車事故導致九人死亡的文章，發佈在百度「百家號」的多個帳號上。該文章在被刪除前的點擊量已達1萬5000餘次。

調查顯示，該洪姓男子使用了ChatGPT來修改編輯近年的社會熱點新聞。他在審訊中說，自己是透過微信好友獲知了如何利用網絡賺取流量變現的方法。

通報指出，該編造的虛假資訊被大量傳播流覽，意味著洪姓男子的行為涉嫌構成「尋釁滋事罪」。該罪名至少可判處五年監禁。

有網民就此評論說，案件暴露了AI技術在網絡資訊傳播領域可能帶來的風險和挑戰。「在不法分子手中，AI也可能成為製造和傳播虛假資訊、誤導輿論的利器」「AI將讓媒體的新聞真假難辨。」

中國已出手 多國AI監管「山雨欲來」

美國OpenAI公司開發的ChatGPT去年11月橫空出世後，在中國科技圈掀起巨大波瀾，騰訊、百度等中國多家科技公司自今年3月紛紛推出對標該聊天機器人的服務。

為加強對這類技術的監管，網信辦4月11日發佈《生成式人工智能服務管理辦法》草案。草案表明，中國支援人工智能演算法、框架等基礎技術的自主創新。不過，企業在向民眾提供生成式人工智能服務前，必須向網信部門申報安全評估；生成內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度、煽動分裂或破壞國家統一、宣揚恐怖極端主義、民族仇恨、可能擾亂經濟及社會秩序等內容。

草案也規定企業也須確保內容真實準確，採取措施防止生成虛假資訊；禁止非法獲取、披露、利用個人資訊和隱私和商業秘密。使用者方則須依法提供真實身份資訊等。

《華爾街日報》報道認為，在生成式AI（generative AI）構成的挑戰引發擔憂之際，中國此舉走在了努力馴化這種新技術的世界各地政府的前列。生成式AI，一般泛指可以進行內容原創，通過演算法來生成圖像、文字、音樂，甚至代碼和視頻，而且不需要人工干預的AI。上述提到的ChatGPT、AI孫燕姿等等都有這種特點。

一名不具名的中國人工智能從業者則向英國廣播公司（BBC）中文網分析說，中國之所以這麼快採取監管行動主要有三個原因：生成式AI的倫理問題、破壞力，以及極快的進化速度。這位業內人士沒有對此進一步闡述。

但BBC中文網報道，生成式AI進化速度極快，ChatGPT去年11月推出後，今年3月反覆運算出的GPT-4，不僅知識面更廣、對答更流暢，開始能夠讀懂圖片內容，在律師資格考試中拿下高分，而且具備自我反思的能力。

除了中國，在日本廣島開會的七國集團（G7）領導人上周也說，世界各國必須加緊對生成式AI的快速發展進行評估，因此決定今年內針對「負責任地「使用此技術展開討論。G7領導人在聲明中說：「我們認識到有必要立即評估生成人工智能的機遇和挑戰，它在各個國家和領域都越來越重要。」

歐洲聯盟領導人也出席會議。歐盟正在推進立法以監管人工智能技術，可能出台世界上第一部全面的人工智能監管法。有關法案下月將提呈給歐洲議會，通過後就可同個別成員國展開立法談判。

正如特斯拉興起，推高了全球電動車行業的熱情；去年底推出的ChatGPT猶如一把大火，點燃了整個人工智能行業，僅僅幾個月，全球科技巨頭都爭相進入這個領域。但「AI孫燕姿」、AI換臉騙局、AI虛構新聞等事件告訴了我們，該技術也帶來了前所未有的新挑戰。

究竟AI是利大於弊，還是弊大於利，現在還難以斷定。唯一可以明確的是，AI的發展還在起步階段，帶給世界的震撼才剛剛開始。

本文獲《聯合早報》授權刊載。