美聯(lián)儲正在努力保護AI培訓數據免受惡意篡改

情報界的高級研究機構為兩個計劃奠定了基礎，這些計劃的重點是克服對抗性機器學習和防止對手對用戶使用人工智能工具的方式。

情報高級研究計劃活動(IARPA)主任史黛西·迪克森(Stacey Dixon)表示，該機構預計這兩個計劃都將運行約兩年。

“我們欣賞到這樣一個事實，人工智能將在我們的生活中發(fā)揮更多作用，并且我們將越來越依賴它，因此我們希望能夠利用或至少減輕迪克斯在4月16日于弗吉尼亞州阿靈頓舉行的情報與安全聯(lián)盟(INSA)會議上說。

第一個項目稱為人工智能特洛伊木馬(TrojAI)，每當對手破壞了用于機器學習算法的訓練數據時，它就會發(fā)出警報。

迪克森說：“例如，他們插入了一些訓練數據，說停車標志實際上是一個限速標志。” “當您采用訓練中產生的算法并將其用于其他用途時，您如何知道訓練數據中存在此類觸發(fā)器?”

IARPA于去年12月發(fā)布了一份廣泛的機構公告草案，并在2月底之前收到了私營部門的反饋，意見和建議。

迪克森(Dixon)表示，另一個計劃將在今年晚些時候發(fā)布公告草案，該計劃旨在保護其圖像已用作面部識別工具訓練數據的人們的身份。

“如何確保沒有人能采用您創(chuàng)建的算法，然后返回并重新創(chuàng)建數據庫中的面孔?” 迪克森說。“在某些領域，我們還沒有進行過多的研究，因此我們將啟動計劃。”

盡管少數機構已經嘗試了一些更簡單的AI工具，例如機器人流程自動化，但海關和邊境保護局自2016年6月以來一直在進行生物特征面部識別試點計劃，該計劃將登機航班的圖像與護照，簽證和其他形式的照片進行比較政府簽發(fā)的件。

此外，迪克森表示，IARPA已將網絡安全預測作為一項“理想”目標，并將該項目描述為使機構和公司對即將到來的網絡攻擊有所了解，并確定可能是誰在背后。