Ian Goodfellow牽頭舉辦NIPS機(jī)器學(xué)習(xí)對(duì)抗賽，提升系統(tǒng)魯棒性

via pulse2

每年年底舉辦的 NIPS 都是令學(xué)者為之一振的頂級(jí)學(xué)術(shù)盛會(huì)。雷鋒網(wǎng)了解到，今年首次增加了一個(gè)新議程，即「NIPS 2017 Competition Track」。本次競(jìng)賽活動(dòng)從 23 個(gè)候選提案中選擇了五個(gè)數(shù)據(jù)驅(qū)動(dòng)的比賽項(xiàng)目，覆蓋領(lǐng)域廣泛。而今天谷歌大腦研究員 Ian Goodfellow 在 Twitter 上強(qiáng)烈推薦了他牽頭組織的 Adversarial Attacks and Defences（對(duì)抗攻擊防御）比賽。而 Nicolas Papernot 也傾情轉(zhuǎn)發(fā)支持。

這一比賽由 Alexey Kurakin、Ian Goodfellow 和 Samy Bengio 一同舉辦。目前大多數(shù)現(xiàn)有的機(jī)器學(xué)習(xí)分類器的魯棒性很差，容易受對(duì)抗樣本的影響。樣本經(jīng)過(guò)輕微修改后，可能就會(huì)讓機(jī)器學(xué)習(xí)分類器受到迷惑，并進(jìn)行錯(cuò)誤的分類。這些修改可能人類幾乎無(wú)法看出區(qū)別，這可能會(huì)對(duì)機(jī)器學(xué)習(xí)分類器的安全性產(chǎn)生不利影響。因此，這一比賽主要也是為了加快研究機(jī)器學(xué)習(xí)分類器的對(duì)抗樣本，提升其魯棒性。

Kaggle 前段時(shí)間被谷歌收購(gòu)，因此這一比賽也自然而然在 Kaggle 上發(fā)布。雖然是在 Kaggle 上發(fā)布具體介紹，但這一比賽依然要遵循 NIPS 2017 Competition Track 的相關(guān)規(guī)定。

比賽的全名為 Non-targeted Adversarial Attack，簡(jiǎn)介是「Imperceptibly transform images in ways that fool classification models」，也就是說(shuō)，需要以欺騙分類模型的方式將圖片巧妙地移花接木。具體而言，分為三個(gè)競(jìng)賽項(xiàng)目：

• Non-targeted Adversarial Attack，競(jìng)賽者所提交的系統(tǒng)需要對(duì)給定的圖片進(jìn)行處理，使得某個(gè)通用機(jī)器學(xué)習(xí)分類器無(wú)法識(shí)別。

• Targeted Adversarial Attack，競(jìng)賽者所提交的系統(tǒng)需要對(duì)給定的圖片進(jìn)行處理，讓某個(gè)通用機(jī)器學(xué)習(xí)分類器能成功識(shí)別圖像屬于特定類別。

• Defense Against Adversarial Attack，競(jìng)賽者需要構(gòu)建一個(gè)機(jī)器學(xué)習(xí)分類器，擁有足夠的魯棒性使之能正確鑒別對(duì)抗性的圖像。

比賽將在給定的數(shù)據(jù)集中進(jìn)行測(cè)試，并且希望參賽者能針對(duì)數(shù)據(jù)集中的每張圖像生成對(duì)應(yīng)的對(duì)抗樣本。所有生成的圖片將在所有提交的防御性分類器中進(jìn)行測(cè)試，如果分類器分類錯(cuò)誤，則對(duì)方得一分。而每次攻擊都會(huì)依照下面的公式進(jìn)行計(jì)算，分?jǐn)?shù)越高，則說(shuō)明攻擊系統(tǒng)的效果越好。

在本次比賽中，用于攻擊與防御所用的分類任務(wù)都是源于 ImageNet。谷歌希望參賽者也能構(gòu)建強(qiáng)大的 ImageNet 分類器，并且能抵御對(duì)抗攻擊。

此外，為了讓競(jìng)爭(zhēng)更加有趣，而且避免公共數(shù)據(jù)的過(guò)度使用，將采用 DEV 與 TEST 數(shù)據(jù)集對(duì)結(jié)果進(jìn)行評(píng)估與測(cè)試。DEV 數(shù)據(jù)集涵蓋 1000 張圖像，而 TEST 數(shù)據(jù)集目前保密，將在比賽結(jié)束后公開。

根據(jù)介紹，雷鋒網(wǎng)了解到，8 月 1 日、9 月 1 日、9 月 15 日將分別啟動(dòng)三輪開發(fā)進(jìn)程，并在 10 月 1 日截止提交。在 Kaggle 頁(yè)面上包含了參賽的詳細(xì)信息，感興趣的同學(xué)朋友們可以密切關(guān)注這一賽事。

NIPS 介紹頁(yè)面：https://nips.cc/Conferences/2017/CompetitionTrack

Kaggle 介紹頁(yè)面：https://www.kaggle.com/c/nips-2017-non-targeted-adversarial-attack#description，雷鋒網(wǎng)整理