研究發(fā)現(xiàn)AI生成的藝術(shù)作品存在歧視偏見

隨著人工智能技術(shù)研究不斷推薦，由算法生成的藝術(shù)作品的受歡迎程度也在持續(xù)增長。從創(chuàng)作繪畫到發(fā)明新的藝術(shù)風(fēng)格，基于人工智能的生成藝術(shù)已經(jīng)在一系列的應(yīng)用中展示。

富士通（Fujitsu）研究人員在一項新研究中，調(diào)查了偏見是否會滲透到用于創(chuàng)造藝術(shù)的人工智能工具中。根據(jù)模型，他們聲稱目前的人工智能方法沒有考慮到社會經(jīng)濟的影響，并表現(xiàn)出明顯的偏見。

據(jù)悉，研究人員調(diào)查了使用人工智能生成藝術(shù)的學(xué)術(shù)論文、在線平臺和應(yīng)用程序，選擇了專注于模擬現(xiàn)有藝術(shù)風(fēng)格的例子。為了調(diào)查偏見，他們考慮了最先進的人工智能系統(tǒng)在各種藝術(shù)風(fēng)格方面的訓(xùn)練成果，包括：

藝術(shù)運動（文藝復(fù)興時期的藝術(shù)、立體主義、未來主義、印象主義、表現(xiàn)主義）;

類型（風(fēng)景、肖像、草圖和插圖）;

材料（木刻版畫、雕刻、油漆）;

藝術(shù)家（柑橘獵人、瑪麗卡薩特、文森特·梵高、古斯塔夫·多爾等等）。

研究人員通過使用一個稱為“directed acrylic graphs”（dag）的因果模型分析表示，他們能夠識別人工智能生成藝術(shù)品的相關(guān)方面，以及這些不同方面是如何相互影響的。

在一個案例中，他們發(fā)現(xiàn)DeepArt（注：這是一個讓用戶按照其他藝術(shù)家的風(fēng)格重新繪制圖片的平臺），沒有考慮到將費爾南德·萊熱的立體派作品《螺旋槳》轉(zhuǎn)化為未來主義風(fēng)格的運動。

其中有些偏見比其他問題更有害。GoArt是一個類似DeepArt的平臺，它將克萊曼婷·亨特的《黑矩陣女主角》的面部顏色從黑色改為紅色，將其轉(zhuǎn)化為表現(xiàn)主義風(fēng)格。另一個AI生成的藝術(shù)工具，“Abacus”將拉斐爾和皮耶羅·迪·科西莫作品中留長發(fā)的年輕男性錯當(dāng)成了女性。

研究人員將這些問題歸咎于用于訓(xùn)練生成人工智能模型的數(shù)據(jù)集失衡，他們指出，這可能受到數(shù)據(jù)集管理員偏好的影響。例如，研究中提到的一款應(yīng)用“人工智能肖像”（AI Portraits）使用了4.5萬幅文藝復(fù)興時期的肖像畫，其中大部分是白人。根據(jù)研究人員的說法，另一個潛在的偏差來源可能是標(biāo)記過程中的不一致。不同的注釋者有不同的偏好、文化和信念，這些可能反映在它們創(chuàng)建的標(biāo)簽中。

研究稱，“在藝術(shù)流派（例如大量的照片vs少量的雕塑）、藝術(shù)家（例如大部分的歐洲藝術(shù)家vs少數(shù)的本土藝術(shù)家）、藝術(shù)運動（大量關(guān)于文藝復(fù)興和現(xiàn)代藝術(shù)運動的作品，而不是用其它作品）等方面可能存在不平衡。另外，描述不同種族、外貌等信息也沒有納入數(shù)據(jù)集，因此造成了代表性偏見。

研究人員警告說，錯誤地建?；蚝鲆暷承┪⒚畹男畔ⅲ伤囆g(shù)可能會助長對過去社會、文化和政治方面的錯誤認(rèn)知，并阻礙了解重要歷史事件。
責(zé)編AJX