忘記埃隆·馬斯克的禁令 讓我們將精力投入建立安全的AI

埃隆·馬斯克(Elon Musk)最近評(píng)論了監(jiān)管AI的必要性，稱其為人類生存的風(fēng)險(xiǎn)。就像任何人類創(chuàng)造的情況一樣，不斷增加的杠桿技術(shù)可以為人類帶來(lái)好事或壞事，但是我們?cè)陂_(kāi)發(fā)初期就必須擔(dān)心AI并對(duì)其進(jìn)行規(guī)范的前提還不充分。我們可能要考慮的第一個(gè)問(wèn)題是，我們擔(dān)心的是AI可能演變成的冷漠還是惡意。

我之所以提出這一點(diǎn)，是因?yàn)轳R斯克本人曾將AI的發(fā)展稱為“召喚惡魔”，將邪惡的形象與它聯(lián)系在一起。對(duì)人類歷史的任何誠(chéng)實(shí)評(píng)估都向我們表明，最令人震驚的惡意意圖可能來(lái)自人的心靈。

歷史還顯示，然而，技術(shù)極大地改善了我們共享的人類經(jīng)驗(yàn)。從印刷機(jī)到互聯(lián)網(wǎng)，總是有反對(duì)者宣揚(yáng)對(duì)新技術(shù)的恐懼。然而，當(dāng)被領(lǐng)導(dǎo)者為了集體利益而引導(dǎo)時(shí)，這些技術(shù)雖然破壞了已知的生活方式，但卻在我們的人類體驗(yàn)中產(chǎn)生了積極的變化。AI也不例外。

在負(fù)責(zé)任的道德領(lǐng)導(dǎo)者手中，這項(xiàng)技術(shù)有望以一種可以釋放人類無(wú)法想象的潛力的方式來(lái)增強(qiáng)人類的能力。人工智能和其他任何技術(shù)都是中立的。技術(shù)的道德性反映了我們的集體道德，這取決于我們選擇使用技術(shù)的方式。

想象一下歷史上的任何獨(dú)裁者都擁有一個(gè)龐大的核武庫(kù)。如果他們的復(fù)仇武器帶有核尖頭并且可以到達(dá)地球的各個(gè)角落，那么他們將如何塑造其余的歷史呢?例如，考慮一下穿刺者弗拉德(Vlad the Impaler)，恐怖的伊凡(Ivan)和成吉思汗(Genghis Khan)會(huì)做的事情。這些惡毒的人不僅是人類的領(lǐng)袖，也是人類的國(guó)王。技術(shù)是否已經(jīng)發(fā)展到瘋子可以將廢物浪費(fèi)到地球上的地步?對(duì)于核，生物和化學(xué)武器，答案是肯定的。我們已經(jīng)忍受了自己的惡意和技術(shù)的乘法效應(yīng)帶來(lái)的生存風(fēng)險(xiǎn)。我們不需要人工智能。

在此階段令人恐懼的獵物將損害建設(shè)性AI的發(fā)展。有人爭(zhēng)論說(shuō)技術(shù)驅(qū)動(dòng)著歷史。如果有人類目的，就可以在學(xué)習(xí)，發(fā)展，進(jìn)步和建設(shè)中找到。發(fā)揮我們的創(chuàng)造潛力，使自己擺脫困擾我們的資源限制和造成我們最糟糕情況的匱乏。這樣，人工智能(可以模仿人類最奇妙的素質(zhì)，思想素質(zhì)的技術(shù))可以成為解放力量和我們的最終成就。在這個(gè)階段，人工智能將帶來(lái)更多的收益。

如果那還不夠，請(qǐng)花一點(diǎn)時(shí)間思考創(chuàng)新的不可逆轉(zhuǎn)性?？梢赃@么說(shuō)，還沒(méi)有開(kāi)發(fā)出有意義的技術(shù)然后將其放回瓶子中。當(dāng)世界分裂和斷開(kāi)時(shí)，有時(shí)會(huì)丟失一些知識(shí)，但是幾乎總是被某個(gè)獨(dú)立的思想家在地球的一個(gè)遙遠(yuǎn)的角落重新發(fā)現(xiàn)，與原始發(fā)現(xiàn)無(wú)關(guān)。這就是技術(shù)和知識(shí)的本質(zhì)……它渴望被發(fā)現(xiàn)。如果我們認(rèn)為規(guī)章制度會(huì)阻礙人工智能的發(fā)展，那我們就錯(cuò)了。他們可能會(huì)做的是阻止有良好意愿的人發(fā)展這種愿望。他們不會(huì)停止其余的。

在考慮禁令時(shí)，重要的是要考慮是否可以執(zhí)行這些禁令，以及受禁令公開(kāi)影響的各方實(shí)際上將如何行事。博弈論是與沖突和合作條件下的決策有關(guān)的數(shù)學(xué)分支，它提出了一個(gè)著名的問(wèn)題，稱為《囚徒困境》。

困境是這樣的：一個(gè)團(tuán)伙的兩個(gè)成員A和B都被分別逮捕和關(guān)押。如果他們兩個(gè)都出賣，則各自服刑兩年。如果A背叛B，但B沒(méi)有暗示他的同志，則A可以自由出任，而B(niǎo)可以任職三年。如果他們兩個(gè)都保持沉默，他們每個(gè)人都會(huì)服務(wù)一年。盡管看起來(lái)“榮譽(yù)”的事情是保持沉默并服務(wù)一年，以使懲罰是平等且微不足道的，但任何一方都不能相信另一方會(huì)遵循這一光榮的做法。原因是，通過(guò)背叛對(duì)方，這個(gè)不光彩的演員有可能獲得免于蘇格蘭的待遇。乙方和甲方都必須考慮到對(duì)方可能會(huì)選擇最適合自己情況的路線，如果是這種情況，被背叛的一方將遭受最大的損失(即 三年監(jiān)禁)。因此，雙方可采取的合理行動(dòng)是相互背叛并“定居”一年。

讓我們擴(kuò)展這個(gè)框架，看看它如何適用于AI禁令。顯然，人工智能是一項(xiàng)在每個(gè)領(lǐng)域都具有變革性影響的技術(shù)。從醫(yī)藥，制造，能源到國(guó)防和政府。如果AI被禁止用于行動(dòng)，那么將有多個(gè)政黨-在這種情況下是-在我們的囚徒困境中將開(kāi)始像A和B那樣思考。如果他們遵守禁令，但其他人通過(guò)秘密地繼續(xù)發(fā)展武器化的AI來(lái)“背叛”，那么對(duì)其他人的好處就會(huì)最大化，而對(duì)禁令的追隨者的負(fù)面影響則是巨大的。

如果各方自愿放棄這種事態(tài)發(fā)展并履行禁令，那么我們就有一個(gè)最好的情況。但是并不能保證會(huì)如此。就像囚犯一樣，這些在不了解對(duì)方可能會(huì)做什么的情況下，秘密地做出決定。最后，如果所有各方都開(kāi)發(fā)這種技術(shù)，那么情況要比遵守禁令要容易得多，因?yàn)榇嬖陲L(fēng)險(xiǎn)。但是所有各方至少都知道，如果任何一方?jīng)Q定使用AI武器，他們將面臨抵抗，即存在威懾力到位。

我們是否應(yīng)該希望AI被永久使用?治愈而不是傷害?我們是否應(yīng)該致力于這一目標(biāo)并為之努力?當(dāng)然。但是，這并不以欺騙自己為代價(jià)，以為我們可以簡(jiǎn)單地解決我們的問(wèn)題。人工智能就在這里，而且它會(huì)一直存在。它將不斷變得更加智能和強(qiáng)大。知識(shí)希望被發(fā)現(xiàn)，并且在任何時(shí)候都不能禁止任何創(chuàng)新。我們實(shí)際上并不需要沿著可授權(quán)性和禁止性的道路走下去，而實(shí)際上需要在可解釋性AI，道德體系和AI安全性等領(lǐng)域更加快速地推進(jìn)AI方面加倍投資。這些已經(jīng)成為并且可以成為真正的技術(shù)，功能和算法，這些技術(shù)，功能和算法將能夠安全處理事故和計(jì)數(shù)器，以蓄意濫用。

除我們的實(shí)驗(yàn)室外，包括AI的德克薩斯州大學(xué)在內(nèi)的更廣泛的社區(qū)正在做大量工作來(lái)思考AI系統(tǒng)安全性的各個(gè)方面。讓我們超越“禁忌思維”，放下袖子，致力于開(kāi)發(fā)框架，使人類能夠積極利用AI(這是我們的最大發(fā)明)并讓我們的孩子獲得難以想象的回報(bào)。