中國(guó)日?qǐng)?bào)網(wǎng)4月19日電 據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道，科學(xué)家表示，機(jī)器學(xué)習(xí)算法正在不斷吸收隱藏在語(yǔ)言使用模式中根深蒂固的種族和性別偏見(jiàn)。
有一種人工智能（AI）工具能計(jì)算機(jī)的能力具有革命性的變化，理解人類日常語(yǔ)言，表現(xiàn)出明顯的性別和種族偏見(jiàn)。
現(xiàn)在大量的決策以自動(dòng)化方式形成，且越來(lái)越多影響人們?nèi)粘Ｉ睢Ｔ谶@種情況下，上述研究也發(fā)人們擔(dān)心當(dāng)下的社會(huì)不平等和偏見(jiàn)將會(huì)以新的、不可預(yù)知的方式呈現(xiàn)。
前幾年，谷歌翻譯等軟件的語(yǔ)言翻譯能力有了顯著提高。這得益于新的機(jī)器學(xué)習(xí)技術(shù)和大量在線文本數(shù)據(jù)的使用，在此基礎(chǔ)上算法也得以不斷優(yōu)化。
然而，最新研究顯示，隨著機(jī)器越來(lái)越接近于掌握人類的語(yǔ)言能力，它們也在吸收隱藏于人類語(yǔ)言中那些根深蒂固的偏見(jiàn)。
巴斯大學(xué)計(jì)算機(jī)科學(xué)家喬安娜 布萊森（Joanna Bryson）說(shuō)：“很多人都認(rèn)為這表明人工智能（AI）存在偏見(jiàn)。事實(shí)并非如此。這表明我們有偏見(jiàn)，人工智能正在向我們學(xué)習(xí)。”
不過(guò)，布萊森警告稱，人工智能有可能強(qiáng)化現(xiàn)有偏見(jiàn)，原因是算法與人類不同，可能無(wú)法有意識(shí)地抵制所學(xué)到的偏見(jiàn)。“危險(xiǎn)在于，你擁有的人工智能系統(tǒng)沒(méi)有一處零部件明確指明是由道德觀念驅(qū)動(dòng)，這就不好了。”她說(shuō)。
這一研究發(fā)表在《科學(xué)》雜志上，重點(diǎn)關(guān)注一名為“單詞嵌入”機(jī)器學(xué)習(xí)工具，它改變了計(jì)算機(jī)解讀語(yǔ)音和文本的方式。有人認(rèn)為，深度學(xué)習(xí)技術(shù)的下一步的發(fā)展將自然而然地涉及到機(jī)器開發(fā)出類人化能力，如常識(shí)和邏輯。
“我們選擇研究單詞嵌入的一個(gè)主要原因是，近幾年來(lái)，它已幫助電腦在破解語(yǔ)言方面取得了巨大成功。”這篇論文的資深作者、普林斯頓大學(xué)計(jì)算機(jī)科學(xué)家阿爾文德納拉亞南（Arvind Narayanan）說(shuō)。
這種方法在網(wǎng)絡(luò)搜索和機(jī)器翻譯中得到使用，其原理是建立一套語(yǔ)言的數(shù)學(xué)表示式，依據(jù)與每個(gè)單詞同時(shí)出現(xiàn)的最常用單詞，將這個(gè)詞的意思提煉成一系列數(shù)字（也就是詞向量）。也許，令人驚訝的是，這種純粹的統(tǒng)計(jì)方法似乎能夠捕捉到每個(gè)詞所蘊(yùn)含的豐富的文化和社會(huì)背景，而這是字典無(wú)法定義的。
例如，在數(shù)學(xué)“語(yǔ)言空間”，與花朵有關(guān)的詞匯往往與描繪心情愉悅的話語(yǔ)聚集在一起，而與昆蟲相關(guān)的詞匯則往往與心情不愉快的詞匯同時(shí)出現(xiàn)。這反映出人們對(duì)昆蟲與花朵的相對(duì)特點(diǎn)達(dá)成了共識(shí)。
最新的研究顯示，人類心理實(shí)驗(yàn)中，一些更令人不安的隱性偏見(jiàn)也很容易被算法捕獲。“雌性”和“女性”與藝術(shù)、人文職業(yè)和家庭的聯(lián)系更緊密，“雄性”和“男性”與數(shù)學(xué)和工程專業(yè)更為接近。
而且，人工智能系統(tǒng)更有可能將歐美人的名字與諸如“禮物”或“快樂(lè)”之類的愉快詞語(yǔ)聯(lián)系在一起，而非裔美國(guó)人的名字通常與不愉快的詞語(yǔ)聯(lián)系在一起。
上述研究結(jié)果表明，算法與隱式聯(lián)想測(cè)試擁有同樣的偏見(jiàn)，也就是把表示愉快的單詞與（美國(guó)和英國(guó)的）白人聯(lián)系起來(lái)。
這些偏見(jiàn)會(huì)對(duì)人類行為產(chǎn)生深遠(yuǎn)的影響。此前一項(xiàng)研究表明，相對(duì)于非洲裔美國(guó)人，如果申請(qǐng)者的名字是歐洲裔美國(guó)人，即使簡(jiǎn)歷內(nèi)容相同，后者能獲得面試邀請(qǐng)的幾率將比前者多出50%。最新的研究結(jié)果表明，除非采用明確的編程來(lái)解決這個(gè)問(wèn)題，否則算法將與現(xiàn)實(shí)社會(huì)一樣，充斥著同樣的社會(huì)偏見(jiàn)。
（編譯：崔珊珊、張夢(mèng)予 編輯：王旭泉）
推薦
