AI藝術創作存種族性別偏見　藝術加工軟件黑人變白人

近年AI技術日臻成熟普及，亦經常應用在藝術創作和作品分析中，可是因為數據收集樣本數量不均，或程式員人為主觀因為的影響，研究發現社會偏見可能滲透到AI創作中，讓AI藝術生成系統產生出來的作品，普遍存在種族與性別偏差，亦對特定流派和創作風格有明顯偏向。

日本富士通一支研究團隊利用「有向無環圖」（Directed Acyclic Graphs/DAG）的因果模型，他們能夠通過這個模型識別出和AI藝術生成有關的因素，以及這些因素相互影響的方式。比如，藝術思潮會影響創作材料的選擇，肖像主體會影響藝術家風格的選擇，而DAG能夠將這些複雜的關係視覺化，從而更好地分析不同因素之間的因果關係。

研究團隊首先對影響AI創作的主要因素進行了分類，從而確定研究樣本。他們最終選定的樣本均由業內領先的AI系統創作，這些AI系統接受了文藝思潮、流派、創作材料、藝術家等各類標記資料集的訓練。

文藝思潮方面，有文藝復興、立體主義、未來主義、印象派、表現主義、後印象派、浪漫主義等；流派方面，有風景畫、肖像、戰鬥繪畫、素描等。材料方面，有木版畫、版畫、油漆等；藝術家方面，則有Clementine Hunter、 Mary Cassatt、Vincent van Gogh、Gustave Doré、Gino Severini等。

AI將長髮男判定為女性

經分析，AI在藝術創作時，存在對特定流派、風格、種族的明顯偏好。

以藝術渲染工具DeepArt為例，用戶可以在DeepArt上導入圖片並添加藝術化渲染效果，最終生成具有特定藝術家風格的圖片。經Deepart轉換之後的畫作會丟失某些重要特徵，像是立體派畫作《Propellers》（圖中），採用未來主義畫作《Armoured Train in Action》（圖右）風格重新繪製，所產生的輸出（圖左），失去了未來主義的重要特徵。

另一個，類似Deepart的平臺GoART，在為Clementine Hunter的畫作《Black Matriarch》（圖左1）添加表現主義濾鏡時，直接將主體人物的黑膚色變成了紅色（圖左2），在加工Vincenzo Gemito的雕塑作品《Giovinetto》時（圖右2），GoART僅會對雕像加上陰影，保留了藝術品中人物原本的白色膚色（圖右1）。

藝術換臉軟件AIportraits將黑膚色女星Tessa Thompson的照片加工成藝術畫時，直接將她的膚色調亮了幾個度。另一款藝術加工工具Abacus則會錯認畫作的性別，直接把Raphael和Piero di Cosimo作品中的長髮年輕男子識別為女性。

AI理性仍靠人類智慧

研究人員認為，造成這些錯誤的主要原因有兩個：第一是用來訓練人工智慧模型的資料集失衡，像是訓練AI Portraits時，就用了45,000張以白人為主的文藝復興時期肖像畫作，因此輸出結果容易出現種族偏差。另一個潛在偏差來源，可能是資料在標註過程時，不同標註者可能因為偏好、文化等因素，影響創建標籤不一致。

該研究發表在康奈爾大學的論文庫arXiv上，名為《藝術史視角下分析AI生成藝術中偏見產生的原因（Biases in Generative Art—A Causal Look from the Lens of Art History）》。

新聞來源：VentureBeat

【中國電影海報設計殿堂級人物黃海，多個作品成為經典，我們一齊重溫當中佳作！】