AI複製人聲 + deepfake 製作色情遊戲｜網民擔心：AI電騙不遠了
AI人聲deepfake製作上古卷軸5成人mod 網擔憂：AI人聲電騙快了｜隨著機械學習和AI生成技術日漸成熟，可以用AI製作的媒體內容越來越多，彷真度也越來越高；最近就有《上古卷軸5》Skyrim的玩家提出遊戲現時有大量未經授權、以AI人聲技術製作的成人內容，不單引來知識產權疑問，更有可能孕育出\新一代電子騙案。
遊戲配音被輸入AI模仿聲線 製成R18色情內容
外國推特用戶「Robbie」（@Robbie92_）早前在Twitter上發表帖文，指他作為會製作mod場景的人，自己十分關注最近流行的AI技術，並且發現有不少《上古卷軸5》Skyrim配音員的聲線被mod製作社群濫用的情況。他進一步指出有不少Skyrim的配音在未有配音員本人許可的情況下，以deepfake、ElevenLabs等AI技術製作為成人內容。
👉2023動漫節重點前瞻 必搶福袋 Eva公仔 天火柯柏文｜ACGHK 2023
Robbie在文中列出了他所見到的聲音被濫用的配音員名單，其中不乏外國知名的配音員；如「April Stewart」不單在上古卷軸系列中配過多個角色，亦是著名動畫《South Park》衰仔樂園的長期配音員，多年來亦在《天命2》等多款遊戲中獻聲。同時也為《命運2》和《恥辱2》提供了聲音；「神奇女俠」Wonder Woman的動畫及遊戲版本的御用配音「Susan Eisenberg」也在名單上。
Robbie亦指出這些有問題的內容主要在知名mod網站「nexusmods.com」上出現，並呼籲玩家可以向該網站及開發Skyrim的Bethesda及發行商Zenimax回報相關問題，以求網站將有問題的內容下架。
👉消費券買Switch遊戲3個方法 出機都用得｜eShop特價10隻抵買推薦
nexusmod早前曾公開表明不拒絕使用AI技術製作的mod內容，因此最近在nexusmod上出現了不少以AI技術製作的mod內容；不過nexusmod的想表明的應該是「使用AI技術本身並不違規」，但是對於「AI技術所使用的素材本身是否合法」，則是由製作mod的人自己負責。
👉Switch 2發售時間｜台灣財經網站明確給出檔期 當年曾準確爆料NS
AI翻唱成風但亦惹爭議 配音員齊表反對
由之前AI繪畫熱潮到最近「AI翻唱」開始流行；不少人利用AI技術「學習」了某個名人、歌手或配音員的聲線之後，再以之製作成影片或歌曲等。在外國很早就已經有「AI奧馬巴」、「AI特朗普」等的影片，亦有「AI Rick Ashley」翻唱其他經典流行曲或動漫歌曲；香港早前也有「AI尹光」爆紅。
👉知名成人遊戲廠ILLUSION結業 網民嘆時代終結：當年啟蒙我性知識
但是想當然的，很難想像這些AI作品在製作前有取得原本聲線主人的許可；而事實上在外國也已經有多位專業配音員在推特上公開表示禁止一切將自己的聲線以AI技術製作成其他內容的公告。現時AI生成的內容都頗為灰色地帶，即使現時未有針對AI生成聲音、歌曲的大規模下架或法律行動，也難以知道將來會否有法律、知識產權等方面的問題。
👉傳《原神》玩家人數3個月急跌51%｜玩家數5宗罪：新角色都是Gay佬
而稍早時份，為《刺客教條：梟雄》 （Assassin's Creed Syndicate）女主角「伊薇·弗萊」（Evie Frye）配音的外國配音員「Victoria Atkin」就指控Ubisoft以AI「盜取」了她的聲音來配這個角色，可能是指Ubisoft以AI技術生成「伊薇·弗萊」的聲線來在其他刺客教條遊戲中使用。當然這目前只是來自配音員的控訴、未必代表事實的全部，但亦可見AI生成聲音技術已是一個需要面對的議題。
任何人聲線均可模仿 長遠恐助長騙案
現時的AI模仿聲線技術已頗為成熟，只要有足夠的學習材料i.e.聲音樣本，AI可以在聲線之外連一個人的語氣及特色調都模仿、幾乎可以亂真。也由此衍生出資訊安全隱憂，AI配音的像真度幾可亂真之下，令人更難以辨別一段說話到底是由AI生成還是真的出自當事人之口，要製作假消息假內容「帶風向」也變得更容易。更甚者有人擔心如果載有自己的聲音的影片或錄音被輸入到AI學習的話，可製作出自己的高度仿真聲線，以之作電騙等就更難提防。