【中國(guó)智能制造網(wǎng) 名家論壇】現(xiàn)代科學(xué)了不起的進(jìn)步之一就是機(jī)器視覺的興起。近幾年，新一代機(jī)器學(xué)習(xí)技術(shù)已經(jīng)改變了計(jì)算機(jī)“看見”世界的方式?，F(xiàn)在，機(jī)器在人臉識(shí)別和物品識(shí)別方面已經(jīng)超越了人類，并將改變無數(shù)基于視覺的任務(wù)，例如駕駛、安全監(jiān)控等等。機(jī)器視覺現(xiàn)在簡(jiǎn)直是超人。　　從一些方面看，機(jī)器視覺比人類視覺更好。但是現(xiàn)在研究人員找到了一類能夠輕松‘愚弄’機(jī)器視覺的‘對(duì)抗性圖像’。但是有一個(gè)問題出現(xiàn)了。機(jī)器視覺研究人員已經(jīng)注意到，這項(xiàng)新技術(shù)有一些讓人擔(dān)心的弱點(diǎn)。實(shí)際上，機(jī)器視覺算法有一個(gè)阿喀琉斯之踵，使它們被一些經(jīng)過微擾的圖像捉弄，而這些圖像對(duì)于人類來說非常淺顯易見。
　　
　　這些經(jīng)過修改的圖像被稱為“對(duì)抗性圖像，成為一種重要的威脅。“在人臉識(shí)別領(lǐng)域，一個(gè)對(duì)抗性例子可能由臉部非常細(xì)微的標(biāo)記構(gòu)成，因此人會(huì)正確識(shí)別出圖像中的身份，而機(jī)器學(xué)習(xí)系統(tǒng)會(huì)將其識(shí)別為一個(gè)不同的人。”谷歌Brain的AlexeyKurakin、SamyBengio以及非營(yíng)利機(jī)構(gòu)OpenAI的IanGoodfellow說。
　　
　　他們?cè)谡撐闹蟹Q，這種對(duì)抗性攻擊除了能影響完全在計(jì)算機(jī)中運(yùn)行的系統(tǒng)，例如逃避垃圾郵件過濾器或病毒軟件監(jiān)測(cè)器，還能影響在物理世界中運(yùn)行的系統(tǒng)，例如通過攝像頭及其他傳感器感知世界的機(jī)器人、視頻監(jiān)控系統(tǒng)以及圖像和聲音分類的移動(dòng)應(yīng)用。
　　
　　因?yàn)闄C(jī)器視覺還非常新，我們對(duì)于對(duì)抗性圖像還知之甚少。沒人知道如何好地創(chuàng)造它們、如何用它們來愚弄機(jī)器視覺系統(tǒng)、或者如何預(yù)防此類攻擊。
　　
　　現(xiàn)在，Kurakin及同事的研究開始改變這一現(xiàn)狀，他們對(duì)對(duì)抗性圖像展開了系統(tǒng)研究。他們的研究說明了機(jī)器視覺系統(tǒng)在此類攻擊之下多么脆弱。
　　
　　團(tuán)隊(duì)開始使用了一個(gè)機(jī)器視覺研究的標(biāo)準(zhǔn)數(shù)據(jù)庫(kù)，名叫ImageNet。這個(gè)數(shù)據(jù)庫(kù)的圖像根據(jù)顯示的內(nèi)容進(jìn)行分類。一個(gè)標(biāo)準(zhǔn)測(cè)試是基于這個(gè)數(shù)據(jù)庫(kù)的一部分來訓(xùn)練一個(gè)機(jī)器視覺算法，然后利用數(shù)據(jù)庫(kù)的另一個(gè)部分來測(cè)試算法能否良好進(jìn)行分類。
　　
　　測(cè)試表現(xiàn)的測(cè)量方法是統(tǒng)計(jì)算法中高五項(xiàng)回答、甚至高一項(xiàng)回答中正確分類的頻率（被稱為前五準(zhǔn)確率和前一準(zhǔn)確率），或者中前五項(xiàng)或一項(xiàng)中回答不正確的頻率（其前五錯(cuò)誤率或者前一錯(cuò)誤率）。