歷史上最大規(guī)模NLP會議要來了！論文提交數(shù)量將在2800左右

ACL今年要火了！根據(jù)ACL19機器學習領域主席王威廉(William Wang)的推文，今年論文提交數(shù)量將在2800左右。相比去年論文提交數(shù)量，暴增81%——史上最大規(guī)模NLP會議誕生了！

歷史上最大規(guī)模NLP會議要來了！

3月4日是ACL 2019論文提交截止日期：

而在離截止時間僅剩5.5小時的時候，ACL 2019機器學習領域主席、加州大學圣塔芭芭拉計算機科學系王威廉(Wliiliam Wang)老師發(fā)出推特表示：

離ACL 2019提交論文截止時間僅剩5.5小時了，論文ID已經(jīng)超過了2100。本次大會將會是史上規(guī)模最大的一次嗎？就剩幾個小時了，讓我們拭目以待。

而就在這條推特發(fā)出1小時后，網(wǎng)友回復說：

現(xiàn)在已經(jīng)2300了！

最后，王威廉老師再次發(fā)推文表示：

今年ACL論文編號應該到了2800篇左右。

今年ACL的論文提交數(shù)，又將打破歷史記錄！

提交論文數(shù)暴增81%，最大規(guī)模NLP會議誕生

ACL 2018的論文提交數(shù)為1544篇，而今年若是超過了2800篇，那么增量將超過81%。

無疑將成為近年來最火、規(guī)模最大的一次NLP會議。

而“增長”趨勢不僅僅是體現(xiàn)在今年：

從上面的折線圖來看，ACL近幾年投稿量從大體發(fā)展呈現(xiàn)出增長趨勢。而較高的投稿量也反映了自然語言處理領域在人工智能浪潮下的火熱。

2017年共收到1419篇投稿（包括829篇長文投稿和590篇短文投稿），錄用長文195篇、短文149篇，長文錄用率為23.5%。

2018年共收到投稿1544篇，最終錄用381篇，其中長文256篇，短文125篇，長文錄取率為25.1%。

從長文錄取率上來看，近兩年也是呈現(xiàn)增長趨勢。相信ACL 2019的錄取率應該也會保持上升態(tài)勢。

往屆熱詞匯總，今年的關鍵詞，你預測到了嗎？

每年ACL基本上都會對進行詞云分析：

接收論文標題關鍵詞（左：ACL 2017獨有，中：ACL 2017和ACL 2018共有，右：ACL 2018獨有）

根據(jù)對接收論文標題的詞云分析，在ACL 2017和2018上持續(xù)熱門的關鍵詞有：

注意力機制（attention）

網(wǎng)絡（network）

知識（knowledge）

序列（sequence）

語言（language）

而在2018的ACL中：

句子（sentence）

詞嵌入（embedding）

情感（sentiment）

受到了更多的關注。

交叉（cross）、領域（domain）、無監(jiān)督（unsupervised）等關鍵詞也在去年上榜，可以看到17-18年，業(yè)界有更多的人著手不同領域之間的交叉遷移，以及無監(jiān)督學習的工作。

而2018-2019年，應該屬于NLP的大年。

NLP領域大事不斷：

谷歌提出BERT模型：證明了一個非常深的模型可以顯著提高NLP任務的準確率，而這個模型可以從無標記數(shù)據(jù)集中預訓練得到；

OpenAI提出GPT-2模型：號稱史上最強通用NLP模型，狂攬7大數(shù)據(jù)集最佳紀錄。

......

未來兩年，NLP可能會不斷爆出類似的刷屏新聞，真的進入一個技術快速發(fā)展期。這是NLP研發(fā)者的黃金期，這種時期最容易出好的成果。

當然，除了上述兩個最醒目的模型外，愛爾蘭的NLP研究科學家Sebastian Ruder對2018年NLP領域令人激動的十大想法進行了大盤點。

總結一下便是：

⑴無監(jiān)督的機器翻譯翻譯（Unsupervised MT）

代表論文：

《基于短語和神經(jīng)的無監(jiān)督機器翻譯》（EMNLP 2018）

https://arxiv.org/abs/1804.0775

⑵預訓練的語言模型（Pretrained language models）

代表論文：

《深度的語境化詞語表示》（NAACL-HLT 2018）

https://arxiv.org/abs/1802.05365

⑶常識推理數(shù)據(jù)集（Common sense inference datasets）

代表論文：

《視覺常識推理》（arXiv 2018）

http://visualcommonsense.com/

⑷元學習（Meta-learning）

代表論文：

《低資源神經(jīng)機器翻譯的元學習》（EMNLP 2018）

http://aclweb.org/anthology/D18-1398

⑸穩(wěn)健的無監(jiān)督方法（Robust unsupervised methods）

代表論文：

《用于完全無監(jiān)督的跨語言詞向量的穩(wěn)健自學習方法》（ACL 2018）

http://www.aclweb.org/anthology/P18-1073

⑹理解表示（Understanding representations）

代表論文：

《語境化詞向量解析：架構和表示》（EMNLP 2018）

http://aclweb.org/anthology/D18-1179

⑺巧妙的輔助任務（Clever auxiliary tasks）

代表論文：

《語義結構的句法框架》(EMNLP 2018)

http://aclweb.org/anthology/D18-1412

⑻半監(jiān)督學習和遷移學習相結合（Combining semi-supervised learning with transfer learning）

代表論文：

《基于交叉視點訓練的半監(jiān)督序列建?！?EMNLP 2018)

http://aclweb.org/anthology/D18-1217

⑼大型文檔的問答和推理（QA and reasoning with large documents）

代表論文：

《敘述答閱讀理解挑戰(zhàn)》（TACL 2018）

http://aclweb.org/anthology/Q18-1023

⑽歸納偏差（Inductive bias）

代表論文：

《基于人類注意力的序列分類》（CoNLL 2018）

http://aclweb.org/anthology/K18-1030

《語義角色標注的語言學信息的自我注意力》(EMNLP 2018)

http://aclweb.org/anthology/D18-1548

今年熱夏，史上最大規(guī)模NLP頂會——ACL，即將拉開序幕。那么你覺得今年的關鍵詞會是哪些呢？