如何利用人工智能消除商業(yè)中的偏見(jiàn)

CNET和CBS新聞高級(jí)制片人丹·帕特森(Dan Patterson)與Salesforce的道德人工智能實(shí)踐建筑師凱西·巴克斯特(Kathy Baxter)就企業(yè)如何使用人工智能(AI)來(lái)識(shí)別偏見(jiàn)和更好地理解自己的過(guò)程進(jìn)行了交談。 以下是經(jīng)過(guò)編輯的采訪記錄。

凱西·巴克斯特：我預(yù)見(jiàn)到的一些事情是，企業(yè)能夠使用人工智能來(lái)識(shí)別他們的過(guò)程中的偏見(jiàn)。 所以再說(shuō)一遍，如果他們看看他們的訓(xùn)練數(shù)據(jù)，他們就可以看到一個(gè)模式。 例如，非裔人比高加索人更容易被拒絕貸款。 在你開(kāi)始編輯培訓(xùn)數(shù)據(jù)之前，編輯你的模型，試圖消除這種不平衡、缺乏公平性的情況，先退一步，看看業(yè)務(wù)流程。 為什么會(huì)這樣？ 這可能是孤立的特定地區(qū)，或辦公室，或一套銷(xiāo)售或貸款經(jīng)理？ 你怎么能修好它？

SEE：管理AI和ML的企業(yè)2019年：技術(shù)領(lǐng)導(dǎo)者期望比以前的IT項(xiàng)目更困難（技術(shù)專(zhuān)業(yè)研究）

我預(yù)見(jiàn)的一件事是，企業(yè)使用人工智能來(lái)真正更好地理解自己的業(yè)務(wù)流程，并與他們做出更公平和公正的決定。 它也可以用來(lái)真正解決我們社會(huì)中的不平等。 我們知道它們存在。 在政府政策中，如果政府使用人工智能系統(tǒng)，他們往往有很多關(guān)于使用這些服務(wù)最多的人的數(shù)據(jù)，這就是少數(shù)群體和窮人。 你掌握的關(guān)于一個(gè)群體的數(shù)據(jù)越多，你掌握的關(guān)于另一個(gè)群體（我們社會(huì)中最富裕的群體）的數(shù)據(jù)越少，就不太可能與這些政府服務(wù)部門(mén)互動(dòng)，你就會(huì)出現(xiàn)不平衡，你就會(huì)做出不公平的決定。

那么，當(dāng)我們與人打交道時(shí)，我們?nèi)绾慰创覀兊恼咦鳛橐粋€(gè)整體？ 我們?nèi)绾卧u(píng)估是什么使他們最有可能重犯？ 不太可能被批準(zhǔn)保釋或假釋?zhuān)?有些歷史因素不公平地影響了這些決定。 同樣，它不能只是修復(fù)數(shù)據(jù)，修復(fù)模型，它需要修復(fù)我們的過(guò)程。

很多時(shí)間都在談?wù)撈纥c(diǎn)，AI會(huì)來(lái)殺我們。 這確實(shí)分散了我們今天需要談?wù)摰膬?nèi)容，這是缺乏公平。 我們?cè)趧?chuàng)造這些系統(tǒng)的人中沒(méi)有足夠的多樣性。 我們對(duì)如何衡量人工智能及其決定對(duì)社會(huì)的影響沒(méi)有足夠的了解。

我們?nèi)绾卧u(píng)估和知道，我們今天比昨天做得好嗎？ 很難測(cè)量一個(gè)負(fù)數(shù)。 你怎么知道，如果因?yàn)檫@些道德行為，你已經(jīng)到位，你避免了一些傷害？ 這些問(wèn)題很難解決，但它們是我們今天必須處理的問(wèn)題。 擔(dān)心奇點(diǎn)，機(jī)器人來(lái)殺我們，確實(shí)分散了我們應(yīng)該進(jìn)行的對(duì)話。

了解智能城市、人工智能、物聯(lián)網(wǎng)、VR、AR、機(jī)器人、無(wú)人機(jī)、自主駕駛等更多最黑科技創(chuàng)新。