麻省理工學(xué)院的研究人員推出了一種用于去偏置算法的AI

鑒于算法在我們?nèi)粘Ｉ钪械钠占昂推占?，公平和平等待遇變得至關(guān)重要 - 去年麻省理工學(xué)院的一項(xiàng)研究揭示了面部識(shí)別算法中的性別和種族偏見(jiàn)，這一事實(shí)對(duì)許多人來(lái)說(shuō)非常突出。。

這一教訓(xùn)似乎相當(dāng)明確 - 偏見(jiàn)，偏見(jiàn)，即使參與制定培訓(xùn)數(shù)據(jù)集的任何特定人員都沒(méi)有表現(xiàn)出有意識(shí)的偏見(jiàn)，這似乎也是正確的(有時(shí)候發(fā)現(xiàn)有75%的男性和超過(guò)80%的人)上述研究的白色圖像)。

為了解決這個(gè)問(wèn)題，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)的一個(gè)團(tuán)隊(duì)目前正在開(kāi)發(fā)一種能夠同時(shí)學(xué)習(xí)的算法 - 手頭的任務(wù)(如人臉檢測(cè))和訓(xùn)練數(shù)據(jù)的基本結(jié)構(gòu)，它通過(guò)重新采樣自動(dòng)識(shí)別和最小化偏差。

在測(cè)試中，與最新和最好的面部識(shí)別系統(tǒng)相比，該算法設(shè)法將“分類偏差”降低了60%以上，同時(shí)保持了其特有的整體精確度。

新系統(tǒng)的關(guān)鍵創(chuàng)新是，雖然它的同行至少需要人類的一些輸入才能學(xué)習(xí)相關(guān)的偏見(jiàn)，麻省理工學(xué)院的數(shù)字“去偏置器”根本不需要手持 - 只需在其上投擲一個(gè)數(shù)據(jù)集就可以了底層結(jié)構(gòu)，然后根據(jù)需要重新取樣。

“特別是面部分類是一種經(jīng)常被視為'已解決'的技術(shù)，即使很明顯經(jīng)常使用的數(shù)據(jù)集也沒(méi)有經(jīng)過(guò)適當(dāng)?shù)膶彶椋?rdquo;博士說(shuō)。學(xué)生Alexander Amini是本周在AIES上發(fā)表的一篇相關(guān)論文的作者。

Amini說(shuō)，糾正這些問(wèn)題勢(shì)在必行，因?yàn)槲覀冮_(kāi)始看到這些算法被用于安全，執(zhí)法和其他領(lǐng)域。

此外，麻省理工學(xué)院團(tuán)隊(duì)開(kāi)發(fā)的系統(tǒng)可能與無(wú)法手動(dòng)檢查的較大數(shù)據(jù)集特別相關(guān)，并可能擴(kuò)展到其他計(jì)算機(jī)視覺(jué)應(yīng)用。