2020年12月,谷歌的AI倫理科學(xué)家Timnit Gebru由于一篇未經(jīng)谷歌官方審核就發(fā)表的學(xué)術(shù)論文,堅持認(rèn)為自己受到了谷歌的不公正對待,而谷歌AI負(fù)責(zé)人Jeff Dean則聲稱Gebru的論文存在多處問題,并且認(rèn)為是Gebru自己提出的離職請求。
其中,Gebru的論文指出目前該方面研究的局限性包括,語言 AI 會消耗大量的電力,還有谷歌語言模型 BERT的局限性,研究發(fā)現(xiàn)BERT傾向于把一些像大腦麻痹、失明等表示殘疾的短語與負(fù)面的語言聯(lián)系起來。
在Gebru這篇論文中,她和團隊敦促人工智能開發(fā)人員對語言項目要更加謹(jǐn)慎,不僅要考慮人工智能開發(fā)人員的觀點,還要考慮那些可能受制于系統(tǒng)輸出或判斷的領(lǐng)域之外的人的觀點。
谷歌AI負(fù)責(zé)人Jeff Dean則認(rèn)為,這篇論文本身存在一些重要的缺陷,使其無法輕松地將谷歌關(guān)聯(lián)其中。例如,關(guān)于如何使模型更有效率以及減少整體環(huán)境影響的重要發(fā)現(xiàn)在論文中都沒有體現(xiàn),也沒有考慮到谷歌和其他研究人員最近在減少語言模型偏見方面的一些工作。強調(diào)風(fēng)險而不提出研究人員和開發(fā)人員理解和減輕這些風(fēng)險的方法,這種做法對于解決這些問題沒有幫助。
因此,雙方就Gebru被公開辭退一事,引發(fā)了巨大爭議。這同時使谷歌陷入到眾人討伐的輿論漩渦當(dāng)中。在解雇事件的同時,谷歌還遭美國國家勞工關(guān)系委員會(NLRB)提起訴訟,其指控谷歌非法監(jiān)視雇員,報復(fù)性解雇有興趣加入工會的雇員,也和Timnit Gebru有關(guān)。
現(xiàn)在,外媒報道,谷歌正在調(diào)查Margaret Mitchell近期的行為,據(jù)悉,Mitchell幫助領(lǐng)導(dǎo)了該公司的AI倫理團隊。究其原因,則是因為Mitchell一直在使用自動腳本來查看她的信息以尋找在自己賬號被鎖之前查找到Gebru的歧視行為證據(jù)。
目前,谷歌已在一份聲明中證實,Mitchell的電子郵件賬已經(jīng)被鎖住,并且他們正在調(diào)查Mitchell下載大量文件并跟外部人士分享的原因。對此,Mitchell沒有立即回復(fù)置評請求。
不論是Timnit Gebru的“被迫主動離職”,還是Mitchell的接受調(diào)查,谷歌公司利潤和利益與員工價值觀訴求的沖突都可見一般,事件的發(fā)酵和后續(xù)還有待谷歌進一步的公布。
責(zé)任編輯:xj
-
谷歌
+關(guān)注
關(guān)注
27文章
6080瀏覽量
104358 -
AI
+關(guān)注
關(guān)注
87文章
28877瀏覽量
266225
發(fā)布評論請先 登錄
相關(guān)推薦
評論