人工智能研究人員表示 舊金山的面部識(shí)別禁令只是觸及表面

舊金山的監(jiān)事會(huì)本周采取了重大舉措，當(dāng)時(shí)它投票禁止將面部識(shí)別軟件用于執(zhí)法目的，但這些措施本身并不能解決人工智能監(jiān)控所帶來(lái)的道德問(wèn)題。

至少這些是來(lái)自三位專家的第一印象，專注于人工智能迅速崛起的社會(huì)影響。

卡內(nèi)基梅隆大學(xué)(Carnegie Mellon University)哲學(xué)教授戴維·丹克斯(David Danks)表示，他沒(méi)有機(jī)會(huì)深入研究市政立法的細(xì)節(jié)，該立法于周二獲得通過(guò)，并將在下周進(jìn)行第二次程序性投票。他說(shuō)“這是一個(gè)細(xì)節(jié)重要的案例。”

“在面部識(shí)別匹配的基礎(chǔ)上逮捕某人意義上的'執(zhí)法目的'就是這種極端明顯的案例，”Danks在周二晚上參加了西雅圖大學(xué)人工智能小組討論會(huì)后告訴GeekWire。“但是，如果它監(jiān)視一個(gè)團(tuán)體的成員，并不是我知道這是這個(gè)人，但我知道這是一個(gè)我上傳了20個(gè)面孔的社區(qū)的成員?”

面部識(shí)別引起了研究人員和隱私權(quán)倡導(dǎo)者的大量批評(píng) - 部分原因是當(dāng)局一直在使用該技術(shù)追蹤中國(guó)西北地區(qū)數(shù)百萬(wàn)穆斯林，部分原因是有關(guān)種族和性別相關(guān)軟件的報(bào)告失敗，部分原因是僅僅因?yàn)槊婵资且粋€(gè)人的公共身份的重要組成部分。

康奈爾大學(xué)信息科學(xué)家Solon Barocas 說(shuō)：“實(shí)際上還有很多其他東西具有與面部識(shí)別相似的特性，同樣有害，但不產(chǎn)生相同的內(nèi)臟反應(yīng)。”

谷歌研究和機(jī)器智能部門(mén)的高級(jí)科學(xué)家瑪格麗特·米切爾說(shuō)，例子可能包括分析一個(gè)人的步行步態(tài)，或檢查一個(gè)人的講話的節(jié)奏。

“機(jī)器學(xué)習(xí)將發(fā)現(xiàn)一大堆新方法，”巴羅卡斯說(shuō)。

人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)先公司表示，他們正試圖自我調(diào)節(jié)他們推出的AI產(chǎn)品。米切爾說(shuō)：“谷歌一直在努力提高對(duì)價(jià)值觀的透明度。” “我最喜歡的一個(gè)，因?yàn)樗苯舆m用于我所做的一切，是為了避免加強(qiáng)不公平的偏見(jiàn)。”

與此同時(shí)，微軟有一個(gè)內(nèi)部道德委員會(huì)，負(fù)責(zé)審查其人工智能軟件的擬議應(yīng)用程序 - 偶爾會(huì)拒絕它所認(rèn)為的不道德的用例。面部識(shí)別是一個(gè)頂級(jí)的問(wèn)題。

但自我監(jiān)管是否足夠?去年12月，微軟總裁布拉德史密斯表示，聯(lián)邦政府應(yīng)制定管理面部識(shí)別技術(shù)的法律，重點(diǎn)關(guān)注同意，第三方測(cè)試，公平和隱私等問(wèn)題。

政府應(yīng)該建立聯(lián)邦人工智能委員會(huì)嗎?

“我不太確定那會(huì)是什么樣子，”丹克斯說(shuō)。“在我看來(lái)，有點(diǎn)像'聯(lián)邦內(nèi)燃機(jī)委員會(huì)'。重要的是如何使用這些技術(shù)，而不是孤立的技術(shù)。“

在Danks看來(lái)，規(guī)范AI可能不需要?jiǎng)?chuàng)建一個(gè)全新的官僚機(jī)構(gòu)。

“在許多領(lǐng)域，實(shí)際上，已經(jīng)有監(jiān)管權(quán)力來(lái)做到這一點(diǎn)，”他說(shuō)。“缺乏的是監(jiān)管機(jī)構(gòu)的技術(shù)專長(zhǎng)，以了解如何行使這些權(quán)力來(lái)管理某些新技術(shù)或某些公司。隨著任何新的技術(shù)進(jìn)步，問(wèn)題在于，我們?nèi)绾翁钛a(bǔ)這些空白?

一個(gè)很好的例子可能是個(gè)人醫(yī)療數(shù)據(jù)。Danks說(shuō)，人工智能工具可能遠(yuǎn)遠(yuǎn)超過(guò)根據(jù)健康保險(xiǎn)流通與責(zé)任法案或HIPAA提供的聯(lián)邦隱私保護(hù)。

“例如，HIPAA不涵蓋推斷的屬性，”他說(shuō)。“我們?cè)谀承┓矫鎸?duì)我們的醫(yī)療數(shù)據(jù)有很好的保護(hù)。但是，如果我使用AI來(lái)解決它而不是FDA批準(zhǔn)的測(cè)試，它就不再被認(rèn)為是私人數(shù)據(jù)了。這是引用中的“猜測(cè)”。這是我們需要填補(bǔ)的差距之一。“

然而，該法案未能成為法律。美國(guó)公民自由聯(lián)盟和其他批評(píng)者稱，該立法包含太多漏洞 - 并且反對(duì)微軟和其他科技公司在制定該法案時(shí)所起的作用。這些差異無(wú)法及時(shí)解決，以滿足今年立法會(huì)的最后期限，但贊助該法案的西雅圖民主黨參議員魯文卡萊爾表示，支持者將在明年再次嘗試。

由西雅圖大學(xué)阿爾伯斯商業(yè)與經(jīng)濟(jì)學(xué)院主辦的阿爾伯斯倫理周繼續(xù)推出“責(zé)任人工智能和物聯(lián)網(wǎng)”，微軟物聯(lián)網(wǎng)和智能邊緣高級(jí)主管Avijit Sinha的演講。活動(dòng)定于周四下午5:30在Pigott Auditorium舉行。

談到面部識(shí)別，西雅圖大學(xué)的數(shù)字藝術(shù)與技術(shù)俱樂(lè)部將于周六中午至下午4點(diǎn)在大學(xué)的Redhawk中心的Quadstock音樂(lè)節(jié)上展示“Emotion Bots” 。學(xué)生將能夠根據(jù)他們的面部表情閱讀他們所表達(dá)的情感。這是一個(gè)俱樂(lè)部項(xiàng)目的演示版本，將在校園的不同地點(diǎn)實(shí)施，并將于明年開(kāi)始試用。