美聯(lián)儲正在努力保護(hù)AI培訓(xùn)數(shù)據(jù)免受惡意篡改

情報界的高級研究機(jī)構(gòu)為兩個計劃奠定了基礎(chǔ)，這些計劃的重點是克服對抗性機(jī)器學(xué)習(xí)和防止對手對用戶使用人工智能工具的方式。

情報高級研究計劃活動(IARPA)主任史黛西·迪克森(Stacey Dixon)表示，該機(jī)構(gòu)預(yù)計這兩個計劃都將運(yùn)行約兩年。

“我們欣賞到這樣一個事實，人工智能將在我們的生活中發(fā)揮更多作用，并且我們將越來越依賴它，因此我們希望能夠利用或至少減輕迪克斯在4月16日于弗吉尼亞州阿靈頓舉行的情報與安全聯(lián)盟(INSA)會議上說。

第一個項目稱為人工智能特洛伊木馬(TrojAI)，每當(dāng)對手破壞了用于機(jī)器學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)時，它就會發(fā)出警報。

迪克森說：“例如，他們插入了一些訓(xùn)練數(shù)據(jù)，說停車標(biāo)志實際上是一個限速標(biāo)志。” “當(dāng)您采用訓(xùn)練中產(chǎn)生的算法并將其用于其他用途時，您如何知道訓(xùn)練數(shù)據(jù)中存在此類觸發(fā)器?”

IARPA于去年12月發(fā)布了一份廣泛的機(jī)構(gòu)公告草案，并在2月底之前收到了私營部門的反饋，意見和建議。

迪克森(Dixon)表示，另一個計劃將在今年晚些時候發(fā)布公告草案，該計劃旨在保護(hù)其圖像已用作面部識別工具訓(xùn)練數(shù)據(jù)的人們的身份。

“如何確保沒有人能采用您創(chuàng)建的算法，然后返回并重新創(chuàng)建數(shù)據(jù)庫中的面孔?” 迪克森說。“在某些領(lǐng)域，我們還沒有進(jìn)行過多的研究，因此我們將啟動計劃。”

盡管少數(shù)機(jī)構(gòu)已經(jīng)嘗試了一些更簡單的AI工具，例如機(jī)器人流程自動化，但海關(guān)和邊境保護(hù)局自2016年6月以來一直在進(jìn)行生物特征面部識別試點計劃，該計劃將登機(jī)航班的圖像與護(hù)照，簽證和其他形式的照片進(jìn)行比較政府簽發(fā)的件。

此外，迪克森表示，IARPA已將網(wǎng)絡(luò)安全預(yù)測作為一項“理想”目標(biāo)，并將該項目描述為使機(jī)構(gòu)和公司對即將到來的網(wǎng)絡(luò)攻擊有所了解，并確定可能是誰在背后。