,,

熱點(diǎn)聚焦：引入對(duì)抗性訓(xùn)練可以讓人工智能更難被攻擊和愚弄

2022-10-23 05:47:15 來源：cnBeta.COM

(資料圖)

洛斯阿拉莫斯國家實(shí)驗(yàn)室的研究人員開發(fā)了一種比較神經(jīng)網(wǎng)絡(luò)的新方法，該方法著眼于人工智能的"黑箱"，以幫助研究人員理解神經(jīng)網(wǎng)絡(luò)的行為。神經(jīng)網(wǎng)絡(luò)可以識(shí)別數(shù)據(jù)集中的模式，并被用于虛擬助手、面部識(shí)別系統(tǒng)和自動(dòng)駕駛汽車等不同的應(yīng)用中。

洛斯阿拉莫斯網(wǎng)絡(luò)系統(tǒng)高級(jí)研究小組的研究員海頓-瓊斯說："人工智能研究界不一定完全了解神經(jīng)網(wǎng)絡(luò)在做什么；它們給了我們很好的結(jié)果，但我們不知道如何或?yàn)槭裁矗覀兊男路椒ㄔ诒容^神經(jīng)網(wǎng)絡(luò)方面做得更好，這是朝著更好地理解人工智能背后的數(shù)學(xué)的關(guān)鍵一步。"

洛斯阿拉莫斯的研究人員正在研究比較神經(jīng)網(wǎng)絡(luò)的新方法。這張圖片是用一個(gè)叫穩(wěn)定擴(kuò)散的人工智能軟件創(chuàng)建的，使用的提示是"窺視神經(jīng)網(wǎng)絡(luò)的黑匣子"。

瓊斯是最近在人工智能不確定性會(huì)議上發(fā)表的一篇論文的主要作者。這篇論文除了研究網(wǎng)絡(luò)的相似性之外，也是描述魯棒神經(jīng)網(wǎng)絡(luò)行為的重要一步。

神經(jīng)網(wǎng)絡(luò)是高性能的，但也是脆弱的。例如，自主車輛采用神經(jīng)網(wǎng)絡(luò)來識(shí)別道路標(biāo)志。在完美的情況下，它們相當(dāng)善于這樣做。然而，神經(jīng)網(wǎng)絡(luò)可能會(huì)錯(cuò)誤地檢測(cè)到一個(gè)標(biāo)志，如果有哪怕是最輕微的異常，如停止標(biāo)志上的貼紙就可以形成對(duì)人工智能的攻擊，并且后者并不會(huì)因此而停下來。

因此，為了改進(jìn)神經(jīng)網(wǎng)絡(luò)，研究人員正在尋找提高網(wǎng)絡(luò)魯棒性的策略。一種最先進(jìn)的方法是在網(wǎng)絡(luò)被訓(xùn)練時(shí)對(duì)其進(jìn)行"攻擊"。人工智能被訓(xùn)練成可以忽略研究人員有目的地引入的異常情況。從本質(zhì)上講，這種被稱為對(duì)抗性訓(xùn)練的技術(shù)，使欺騙網(wǎng)絡(luò)變得更加困難。

在一個(gè)令人驚訝的發(fā)現(xiàn)中，瓊斯和他在洛斯阿拉莫斯的合作者雅各布-斯普林格和加勒特-凱尼恩，以及瓊斯的導(dǎo)師賈斯頓-摩爾，將他們新的網(wǎng)絡(luò)相似性指標(biāo)應(yīng)用于對(duì)抗性訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。他們發(fā)現(xiàn)，隨著攻擊嚴(yán)重程度的增加，對(duì)抗性訓(xùn)練導(dǎo)致計(jì)算機(jī)視覺領(lǐng)域的神經(jīng)網(wǎng)絡(luò)收斂到非常相似的數(shù)據(jù)表示，而不考慮網(wǎng)絡(luò)架構(gòu)。

"我們發(fā)現(xiàn)，當(dāng)我們訓(xùn)練神經(jīng)網(wǎng)絡(luò)對(duì)對(duì)抗性攻擊具有魯棒性時(shí)，它們開始做同樣的事情，"瓊斯說。

工業(yè)界和學(xué)術(shù)界一直在努力尋找神經(jīng)網(wǎng)絡(luò)的"正確架構(gòu)"，但洛斯阿拉莫斯團(tuán)隊(duì)的發(fā)現(xiàn)表明，引入對(duì)抗性訓(xùn)練后，這一搜索空間大大縮小。因此，人工智能研究界可能不需要花那么多時(shí)間去探索新的架構(gòu)，因?yàn)樗麄冎缹?duì)抗性訓(xùn)練會(huì)使不同的架構(gòu)收斂到類似的解決方案。

"通過發(fā)現(xiàn)健壯的神經(jīng)網(wǎng)絡(luò)彼此相似，我們正在使人們更容易理解健壯的人工智能可能真的如何工作。"瓊斯說："我們甚至可能會(huì)發(fā)現(xiàn)關(guān)于人類和其他動(dòng)物的感知是如何發(fā)生的暗示。

關(guān)鍵詞：人工智能引入對(duì)抗性訓(xùn)練可以讓人工智能更難被攻擊和