<mark id="oztn4"></mark>
0
雷鋒網(wǎng)AI科技評(píng)論按：本文將推薦4篇精選前沿論文，以供參考學(xué)習(xí)。每篇薦文將包含推薦人簡(jiǎn)評(píng)、推薦人研究方向等。如對(duì)論文有疑問(wèn)或者想進(jìn)一步交流，歡迎大家聯(lián)系推薦人共同討論。
本文內(nèi)容轉(zhuǎn)載自哈爾濱工業(yè)大學(xué)社會(huì)計(jì)算與信息檢索研究中心 公眾號(hào)（微信ID：HIT_SCIR）的「賽爾推薦」欄目第1期，可關(guān)注公眾號(hào)獲得更多資訊。雷鋒網(wǎng)AI科技評(píng)論獲其授權(quán)轉(zhuǎn)載。
推薦組：SA
推薦人：吳洋（研究方向：情感分析）
論文題目：Refining Word Embeddings for Sentiment Analysis
作者：Liang-Chih Yu, Jin Wang, K.Robert Lai and Xuejie Zhang
發(fā)表會(huì)議/期刊：EMNLP 2017
論文主要相關(guān)：詞向量，情感分析
簡(jiǎn)評(píng)：這篇文章發(fā)表于ACL 2017。很多任務(wù)上都在使用預(yù)訓(xùn)練詞向量，因?yàn)樵~向量中蘊(yùn)含著語(yǔ)義信息。但詞向量在情感分析任務(wù)上的使用存在一個(gè)問(wèn)題，即由于詞向量著重體現(xiàn)的是語(yǔ)義信息，導(dǎo)致對(duì)于一些語(yǔ)義相近而情感相反的詞沒(méi)有區(qū)分度，如bad與good。所以直接使用通用的預(yù)訓(xùn)練詞向量可能會(huì)降低模型的效果。因此，我們需要使用帶有情感信息的詞向量。本文亮點(diǎn)在于僅僅使用情感詞典，來(lái)迭代的調(diào)整預(yù)訓(xùn)練的詞向量，使得在保證一定語(yǔ)義關(guān)系的情況下，語(yǔ)義相近，情感不同的兩個(gè)詞，距離更遠(yuǎn)；語(yǔ)義相近，情感相同的兩個(gè)詞，距離更近，從而得到既有語(yǔ)義信息還帶有情感信息的詞向量。
論文鏈接：https://www.aclweb.org/anthology/D/D17/D17-1056.pdf
推薦組：SP
推薦人：段俊文（研究方向：文本挖掘）
論文1題目：NEURAL SPEED READING VIA SKIM-RNNSKIP RNN
論文1作者：Minjoon Seo, Sewon Min, Ali Farhadi, Hannaneh Hajishirzi
論文2題目：LEARNING TO SKIP STATE UPDATES IN RECURRENT NEURAL NETWORKS
論文2作者：Victor Campos, Brendan Jou, Xavier Giro-i-Nieto, Jordi Torres, Shih-Fu Chang
這兩篇論文的第一作者分別來(lái)自華盛頓大學(xué)和谷歌公司。
發(fā)表會(huì)議/期刊：ICLR 2018
論文主要相關(guān)：循環(huán)神經(jīng)網(wǎng)絡(luò)
簡(jiǎn)評(píng)：循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)是序列建模中的常用的模型，其不足包括計(jì)算效率不高，較長(zhǎng)序列時(shí)可能出現(xiàn)梯度消失或者梯度爆炸的問(wèn)題。推薦的兩篇文章的思路比較類似，要解決的也是同樣的問(wèn)題，即在不影響準(zhǔn)確率的前提下盡可能提高RNN的計(jì)算效率。兩篇文章提出的方法分別叫skim-rnn和skip-rnn，從名字可以看出來(lái)，他們都是通過(guò)跳過(guò)某些輸入，達(dá)到快速計(jì)算的目的。因此在計(jì)算的每一步都需要確定該輸入是否被跳過(guò)。但是兩篇處理的具體方式不同，如果該輸入被跳過(guò)，skim-rnn用一個(gè)small rnn更新隱含狀態(tài)的前若干維而skip—rnn則直接復(fù)制上一個(gè)隱含層的狀態(tài)。兩篇文章都表示自己的模型計(jì)算效率提升但是準(zhǔn)確率保持不變或小有提升。這兩篇文章提供了一些通過(guò)修改RNN結(jié)構(gòu)達(dá)到快速計(jì)算的新的思路。
論文鏈接：
論文1：https://arxiv.org/pdf/1711.02085.pdf
論文2：https://arxiv.org/pdf/1708.06834.pdf
代碼：
論文1：https://github.com/imatge-upc/skiprnn-2017-telecombcn
論文2：https://github.com/schelotto/Neural_Speed_Reading_via_Skim-RNN_PyTorch
推薦組：TG
推薦人：馮掌印（研究方向：文本生成）
論文題目：Selective Encoding for Abstractive Sentence Summarization
作者：Qingyu Zhou, Nan Yang, Furu Wei, Ming Zhou
發(fā)表會(huì)議/期刊: ACL 2017
論文主要相關(guān)：sequence-to-sequence、選擇機(jī)制、摘要生成
簡(jiǎn)評(píng)：這是一篇發(fā)表于ACL 2017的論文，作者認(rèn)為生成摘要和機(jī)器翻譯有明顯的不同，機(jī)器翻譯需要保留所有信息而生成摘要只需要保留部分重要信息，生成摘要應(yīng)該分為三個(gè)步驟：對(duì)句子進(jìn)行編碼、選擇重要信息和解碼。因此在傳統(tǒng)的sequence-to-sequence框架下，作者加入了選擇機(jī)制，利用該選擇機(jī)制，對(duì)Encoder產(chǎn)生的表示進(jìn)行過(guò)濾，只保留重要信息，然后Decoder利用過(guò)濾后的表示進(jìn)行解碼，得到最終的摘要。在多個(gè)數(shù)據(jù)集下對(duì)比了該模型與以往模型，實(shí)驗(yàn)做得很充分，文章也對(duì)選擇機(jī)制的有效性進(jìn)行了說(shuō)明。
論文鏈接：https://aclweb.org/anthology/P/P17/P17-1101.pdf
大事專用區(qū)
雷鋒網(wǎng)：如果您在自己的研究和學(xué)習(xí)過(guò)程中也有想要分享的優(yōu)質(zhì)文章，請(qǐng)將推薦文章及相關(guān)信息通過(guò)郵件發(fā)送到zengbingyu@leiphone.com 或 微信聯(lián)系（zengbingyu1018）。推薦內(nèi)容包括：
1. 論文名字
2. 作者/機(jī)構(gòu)
3. 錄用渠道（選填）
4. 論文領(lǐng)域
5. 推薦簡(jiǎn)介（200-300字）
相關(guān)文章：
