這屆機器學習論文評比,搞怪無釐頭我只服Reddit

 2017-01-13 09:50:00.0

你知道嗎?Reddit 上的 Machine Learning 小組上目前已經聚集了 85,613 位關注者了,而在 2016 年底的時候,@Mandrathax 發起了一個評選活動,名爲「Reddit 機器學習小組的 2016 年度最佳論文大獎」!結果於今天火熱出爐啦,且和雷鋒網一起來看看他們都是怎麼評選出這些論文的吧。

@Mandrathax 在距離 2017 還有三天的時候慷慨激昂地提議:讓我們來用鼠標投票,選出你心目中的年度最佳論文吧!

本次論文評選共有九大獎項,從比較正經的「年度最佳論文」到莫名奇妙的「最佳非機器學習論文」(黑人問號),雷鋒網將在後面的獎項揭曉部分逐一爲大家盤點。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

獎項提名過程也很簡單,只需要在帖子最後進行評論,並附上免費(手動微笑)的論文鏈接就可以了。「你可以爲你的選擇自由提供論據,言之成理即可,如果你就是論文的作者,那麼謙虛一點地推薦也是可以的。」

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

不過,雖然是一個不太嚴肅的評選,但人家也是有自己節操的好伐!

比如說:

1. 每次只能在一條評論中提名一篇論文,如果有多篇心水文章,可以分多個評論來提名。

2. 提名一定要附上論文鏈接。比如說如果發佈在 arxiv 上,需要附上 arxiv 的頁面鏈接,而不是論文的 pdf 文件。而且,本着不讓大家破產的原則,不歡迎貼上需要付費閱讀的論文鏈接。

3. 只有正規的研究論文才能參加本次評選哦,什麼書呀博客呀,這次就 sorry 啦,畢竟我們這個評選可是非常正  規的。

Reddit 上的用戶可以直接在評論板塊把認同的提名頂上去。經過 12 天激烈(?)的評選,有 100 位熱心讀者提出了他們心目中的最佳獎項。票選結果原定於 1 月 6-7 日揭曉,不過樓主可能去歐洲喂鴿子了,所以推遲到今天才出結果。

事不宜遲,趕緊和雷鋒網(公衆號:雷鋒網)一起來奇文共賞吧!

年度最佳論文(Best Paper of the year)

評選標準:木有!只要這篇論文看完後,你覺得醍醐灌頂、內牛滿面、腦海裏只有「好贊」兩個字,感覺以前的書都白讀了的,都可以。

獲獎論文:《Mastering the Game of Go with Deep Neural Networks and Tree Search》

如果你看不懂英文,其實用膝蓋想一下就知道是哪篇論文了,沒錯,就是谷歌 DeepMind 團隊解析利用 DNN 與搜索樹算法攻克圍棋問題的詳細解讀。

當然,這一獎項的角逐非常激烈,還有 InfoGAN、Google 機器翻譯系統等論文也是大熱的候選者。

不過,因爲提名者 @Bhananana 提交的是 pdf,還是被樓主小小地吐槽了一番。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

最佳學生論文(Best student paper)

評選標準:雖然博士生帶了個「生」字,不過這裏的學生論文評選只侷限於「還在上學」&「非博士生」,而且該學生必須是第一作者哦。

獲獎論文:《Recurrent Batch Normalization》(遞歸批規範化)

第一作者名爲 Tim Cooijmans,在蒙特利爾大學機器學習實驗室(MILA)學習,師從 Aaron Courville。他在論文中嘗試重新將 LSTM 參數化,並證明這能有助於 RNN 的批規範化,使得 LSTM 的具有更快的收斂性及更好的通用性。

這篇論文是作者 @cooijmanstim 自己跑來自薦的,他說:

「這是第一篇呈現展示了 RNN 批規範化的論文,而且在這篇論文提出之前,這個想法也只是存在可能而已。(我是第一作者啦,當時只是一個低年級的研究生而已。)」

恭喜恭喜啪啪啪!還沒讀到博士就已經有了第一作者的論文,前途不可限量。

最佳學界論文(Best paper from academia)

評選標準:該論文的第一作者來自某個大學/國立研究所,比如法國的 INRIA(法國國家信息與自動化研究所)。

獲獎論文:(空缺)

樓主特別聲明,雖然這個類目沒有論文被提名,但他在其它類目的提名中發現了一些符合條件的論文,比如雷鋒網曾經報道過的 DeepMind 的識別脣語論文《Lip Reading Sentences in the Wild》;還有 MILA 的《Recurrent Batch Normalization》及《Professor Forcing: A New Algorithm for Training Recurrent Networks》等等。

最佳業界論文(Best paper from the industry)

評選標準:源於科技公司(或旗下基於私人資助的研究院,比如 openai)的優秀論文。

獲獎論文:《WaveNet: A Generative Model for Raw Audio》

沒錯又是 DeepMind,它們設計了一個原始音頻波形深度生成模型 WaveNet,利用卷積神經網絡所生成的語音聽起來比現存的最優文本(語音系統)更爲自然,將模擬生成的語音與人類聲音的差異降低一半以上。而它們在語音合成領域取得的這一新進展計劃將應用於谷歌產品中,這有期提升數百萬用戶的產品體驗。雷鋒網在此前論文發表之時也做過覆蓋,詳情可以點擊《DeepMind 發佈最新原始音頻波形深度生成模型 WaveNet,將爲 TTS 帶來無數可能》查看。http://www.leiphone.com/news/201609/ErWGa8fs7yR1zn2L.html

如果說前面的評選還畫風比較正常的話,那麼接下來的獎項就有點讓人看不懂了……

最佳理論論文(Best theoretical paper)

評選標準:數學、數學、數學……停不下來。我在數學的海洋裏無法自拔!

獲獎論文:《Operational calculus on programming spaces and generalized tensor networks》

雷鋒網簡單看了一下這篇 27 頁的論文,除了摘要、介紹及引用的三頁外,其它 24 頁都有各種公式,那畫面太美我不敢看了。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

最佳「非」深度學習論文(Best non Deep Learning paper)

評選標準:雖然深度學習這麼火熱,我們也應該稍微尊重一下高斯迴歸過程、隨機森林還有核方法的感受吧!

獲獎論文:《Fast and Provably Good Seedings for k-Means》

來來來,給 K-Means 聚類算法讓個位好吧?

最佳被拒論文(Best rejected paper)

評選標準:論文並沒有通過 peer review,如果能提供被拒絕的證據那就更好了(真是好殘忍吶)

獲獎論文:《Decoupled Neural Interfaces using Synthetic Gradients》

@sour_losers(雷鋒網按:看這名字起的……)自薦了這篇論文,他說,雖然自己沒有收到拒絕信,但他根據發佈時間推斷認爲他被 NIPS 拒絕了。

所以雷鋒網得到一個結論:起名字呀,還是得起個酷一點的,哦我指的是網名。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

最佳未發表論文

評選標準:今年內還沒發表出來的論文。樓主 PS:這個獎項可能會和上一個獎項有點重複,但先設着吧(雷鋒網小編:這些獎設置得還真是隨便啊)。

獲獎論文:《Training recurrent networks to generate hypotheses about how the brain solves hard navigation problems》

(這個類目因爲只有這一個提名,且只獲得了兩票,因此就順利成章地獲獎了。樓主表示,這證實了此前的猜測,「我覺得確實設重了。」)

最佳論文標題

評選標準:只要比這個標題厲害就可以了:《A Spectral Approach to Ghost Detection》

鬼魂識別?我讀書少你可別騙我。你還別說,這論文寫得還有模有樣的,除了建模、識別外,兩位研究人員還設計了一個功能,可以自動抹除圖片裏的鬼魂。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

作者 Daniel Maturana 是一個愛聽雷鬼樂的虔誠天主教徒,而 David Fouhey 則是 CMU 的機器人研究中心的博士生,他曾經擔任某個機構的聯合大使,主要任務是探索瑜伽褲與普通長褲的區別(什麼鬼)。

獲獎論文:《Learning to learn by gradient descent by gradient descent》

翻譯過來就是《通過梯度下降學習如何學習梯度下降》,嗯……我服。

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

文章由 Google DeepMind、牛津大學及加拿大先進研究院的八位研究者聯合完成。雖然名字起得像繞口令,但簡介寫得還是比較清晰的,文章主要將算法的調優視爲一個能用機器學習完成的過程,綜合了 LSTM、通用性及人工設計的對抗網絡進行訓練,並將其應用於相似的全新任務中。

有意思的是,這個獎項贏得了最多用戶的關注,競爭也最爲激烈。其它的論文名字還包括:

《星體平面的映射》(這是走錯星球大戰片場了嗎?)

《YOLO9000:更高更快更強》(這是在辦奧運會嗎?)

《Mother Fugger:採用本地色塊挖掘歷史手稿》(總是有種奇怪的聯想)

以上便是 2016 年 Reddit 的 Machine Learning 小組評選的「最佳」九大論文,當然,其中主要還是以戲謔及有趣做爲評選主題,雷鋒網想,不知道中文版本的論文評選是否有哪些特別的論文能入選呢?歡迎向雷鋒網推薦你心目中符合這幾大獎項的論文吧!

最後附上原帖頁面及評選結果頁面:

r/MachineLearning's 2016 Best Paper Award

Results from the Best Paper Awards

這屆機器學習論文評比,搞怪無厘頭我只服Reddit

文章來源:雷鋒網