雷鋒網AI研習社【本期論文】
Reluplex: An Efficient SMT Solver for Verifying Deep Neural Network
Reluplex:驗證深度神經網絡的有效SMT方案
幾年前，我們見證了神經網絡和學習算法的快速興起。人工智能時代正在到來，探索過程中也不可避免出現一些失敗的嘗試，有些失敗的項目往往有跡可循，因爲算法足夠簡單，我們可以以管窺豹，做出合理的猜想。
但是，如果涉及到深層神經網絡的問題，就很難講了。比如，早期我們所提的pix2pix技術，很多情況下看起來完全可以零失誤完成，但在還是有很多失敗案例。
Twitter上出現的各種失敗案例
這不僅因爲神經網絡在面對虛假輸入時沒有鑑別能力，很可能會誤讀、誤識，更因爲神經網絡沒有對抗性，可能隨時被顛覆，也就是說，我們分分鐘可以訓練一種新的神經網絡來顛覆原有的學習系統，讓它錯亂崩潰。
給汽車加點噪聲 深度神經網絡還以爲是鴕鳥
就目前來說，作者們認爲現有防禦措施的限制在於，缺乏對機器學習模型的驗證機制。
測試執行腳本
本期論文認爲，神經網絡需要具備驗證關鍵任務的能力，探討了幾類保護措施，讓機器學習模型能夠真正起作用。視頻中還介紹了論文相關的小實驗，實驗將一個具有神經網絡的小型防撞飛機作爲研究對象，來呈現學習算法在關鍵任務系統中運作機制和原理。
▷ 觀看論文解讀大概需要 4 分鐘
學霸們還請自行閱讀論文以獲得更多細節
論文原址 https://arxiv.org/pdf/1702.01135.pdf
來源 / Two Minute Papers
翻譯 / 洪振亞
校對 / 囧囧
整理 / 雷鋒字幕組
雷鋒網AI研習社出品系列短視頻《 2 分鐘論文 》，帶大家用碎片時間閱覽前沿技術，瞭解 AI 領域的最新研究成果。歡迎關注雷鋒網(公衆號：雷鋒網)雷鋒字幕組專欄，獲得更多AI知識~感謝志願者對本期內容作出貢獻。
