教授今天的AI學生成為明天的道德領袖：張焱訪談錄

一些最偉大的科學家和未來的發(fā)明家現(xiàn)在坐在高中課堂上，通過微積分微笑，熱切地等待世界頂尖大學的一年級學生。他們可能已經(jīng)贏得了數(shù)學奧林匹克運動會或發(fā)明了聰明的新互聯(lián)網(wǎng)應用程序。我們知道這些學生很聰明，但他們是否準備負責任地指導技術的未來?

開發(fā)安全和有益的技術需要的不僅僅是技術專業(yè)知識 - 它需要全面的教育和理解其他觀點的能力。但是，由于數(shù)學和理科學生必須花費大量時間從事技術工作，他們往往缺乏理解他們的發(fā)明如何影響社會所需的技能和經(jīng)驗。

這些教育差距可能會成為問題，因為人工智能在我們的生活中扮演著更重要的角色人工智能研究正在年輕的計算機科學家中蓬勃發(fā)展，這些學生需要了解他們的創(chuàng)新所帶來的復雜的道德，治理和安全挑戰(zhàn)。

SPARC

2012年，一群人工智能研究人員和安全倡導者--Paul Christiano，Jacob Steinhardt，Andrew Critch，Anna Salamon和Yan Zhang--創(chuàng)建了應用理性與認知暑期課程(SPARC)，以解決數(shù)量眾多的青少年問題。 ，包括AI中的教育差距問題。正如所有技術一樣，他們解釋說，人工智能社區(qū)越是由思想敏捷，聰明，寬廣的推理者組成，人工智能就越有可能以安全和有益的方式發(fā)展。

每年夏天，SPARC創(chuàng)始人都會邀請30-35名數(shù)學天才的高中生參加他們?yōu)槠趦芍艿恼n程。SPARC的主任張解釋說：“我們的目標是建立一個強大的社區(qū)，讓這些學生接觸到他們不會在課堂上得到的想法 - 成為當今世界中數(shù)量上強大的青少年的盲點，如移情和社會動態(tài)。總的來說，我們希望讓他們成為能夠為世界帶來積極變化的更強大的人。“

為了幫助學生產(chǎn)生積極影響，SPARC講師教授有效利他主義(EA)的核心思想。“我們有很多關于EA的談話，但我們不會讓學生成為EA，”張說。“我們向他們展示好的想法，我認為這是一種更健康的指導方式。”

SPARC還向?qū)W生展示機器學習，人工智能安全和存在風險。在2016年和2017年，他們就這些主題舉辦了10多個課程，包括：Jacob Steinhardt教授的“機器學習”和“Tensorflow”，Paul Christiano教授的“不負責任的未來主義”和“有效的做好”，“優(yōu)化”由John Schulman和Michael Webb教授的“人工智能和自動化的長期思考”。

但是，SPARC教練也沒有將學生推向AI路徑。相反，他們鼓勵學生應用SPARC的整體培訓，以在任何領域產(chǎn)生更積極的影響。

關于保證金的思考：社會技能的作用

要產(chǎn)生最積極的影響，需要考慮邊際問題，并要求：哪一個額外的知識單元最有助于產(chǎn)生積極影響?對于這些學生來說，他們中的大多數(shù)都贏得了數(shù)學和計算奧林匹克運動會，通常不會有更多的數(shù)學。

“許多具有數(shù)學頭腦的學生的弱點是社交技能或與人有充分的爭論，”張說。“因為要有影響力，你需要你的定量技能，但你也需要能夠與人交往。”

為了應對這種弱點，他教授社交技巧和信號方面的課程，并偶爾引領即興游戲。SPARC仍然教授大量的數(shù)學知識，但張更有興趣解決這些學生的教育盲點 - 教師們自己作為學生的盲點。“什么會讓我們更具有影響力的個人，而且在很多方面也會更加完整和更加人性化?”他問道。

與非數(shù)學學生一起工作可以提供幫助，因此張和他的同事們已經(jīng)嘗試將優(yōu)秀的作家和原創(chuàng)思想家?guī)朐撚媱潯?ldquo;我們一直與這些學生取得了非常好的成績，因為他們帶來了數(shù)學奧林匹克運動員孩子所沒有的東西，”張說。

SPARC還通過開放慈善項目，OpenAI，Dropbox和Quora等學術界和組織的嘉賓發(fā)言人拓寬了學生的視野。在一次演講中，Dropbox工程師Albert Ni向SPARC學生講述了“數(shù)學人在以后的生活中嘗試做事時常犯的錯誤”。

在另一個成功的實驗中，SPARC校友Ofer Grossman現(xiàn)在是一名工作人員，SPARC在2017年將所有課程中的一半選為可選課程。由于學生對文化的欣賞，課程仍然很緊張。創(chuàng)始人還同意課后的談話往往比課堂更有影響力，因此一對一時間和課堂討論進行了一致。他們在邊緣思考時問道：“學校里有什么令人難忘的東西?有什么好的部分?我們可以做更多這些而不是其他的嗎?“

最重要的是，SPARC培養(yǎng)了一種開放，好奇和責任感的文化。該項目固有的“認知消除” - 了解選擇偏差和確認偏差等常見偏差，并對其進行糾正。“我們非常明確地在彼此的互動中做了大量的去偏見，”張說。“我們也有關于認知偏見的課程，但文化是更重要的部分。”

AI研究和未來領導者

設計安全和有益的技術需要技術專業(yè)知識，但在SPARC看來，培養(yǎng)整體研究文化同樣重要。今天的優(yōu)秀學生可能會在未來取得一些最重要的人工智能突破，他們的價值觀，教育和氣質(zhì)將在確保高級人工智能安全部署和共同利益方面發(fā)揮關鍵作用。

“這在人工智能之外也很重要，”張解釋道。“SPARC官方的立場是讓這些學生成為他們社區(qū)的未來領導者，無論是AI，學術界，醫(yī)學還是法律。然后，這些領導人可以互相交談，成為盟友，而不是擁有一堆分散的，狹隘的紀律。“

隨著SPARC接近第7年，一些校友已經(jīng)開始產(chǎn)生影響。一些面向AI的校友最近成立了AlphaSheets--一個用于融資的協(xié)作式可編程電子表格，不易出錯 - 而其他學生正在與硅谷的人們一起領導一個“黑客之家”。此外，SPARC啟發(fā)了ESPR的創(chuàng)建，ESPR是一個明確專注于AI風險的類似歐洲計劃。

但大多數(shù)影響都不那么明顯。“對不同事物感興趣的不同人群一直在與SPARC的資源合作，他們正在組建許多社會團體，”張解釋說。“這就像一堆小小的火花，我們不知道它們會變成什么樣，但我對未來五年的表現(xiàn)非常興奮。”