雷鋒網(公衆號：雷鋒網)AI科技評論按：據外媒TechCrunch最新報道，MIT CSAIL（麻省理工學院計算機科學與人工智能實驗室）發明了一種可以全自動內窺神經網絡活動的系統Network Dissection。相關的論文會在今年的CVPR（計算機視覺與模式識別大會）發表，雷鋒網AI科技評論屆時也會對大會進行全程報道，敬請關注。
MIT計算機科學與人工智能實驗室之前發明過一種內窺神經網絡揭示它們是如何做決策的方法。據外媒報道，該方法最近又有了新改進，相比研究團隊兩年前提出的方案，這次升級爲全自動版本系統，效果可以和之前僱傭人工觀察得到的相媲美。
通過全自動內窺神經網絡做決策的過程可以幫助人們理解爲什麼神經網絡能表現和人工觀察一樣的效果。目前深度學習技術圍繞「系統是如何做到他們想要的結果」還有很多問題，比如，對於網絡利用連續信號處理層對目標分類，文本翻譯，或其他的一些功能，幾乎沒有辦法深入瞭解網絡的每一層是如何進行實際決策的。
MIT利用了醫學神經網絡的原理，通過每一個單獨的節點對給定的一個輸入圖像的力度反饋報告，將反饋力度大的圖片挑選出來再進行分析。這項分析之前是工作人員來做的，他們根據圖像中的特殊視覺概念來歸類。但是現在這項工作已經自動化了，分類也是機器完成的。
這項研究正在提供一些神經網絡是如何運作的有趣見解，例如展示了訓練一個神經網絡對黑白圖片填充顏色的過程，會發現它會集中大部分節點在識別圖像紋理上。訓練神經網絡對視頻中的物體識別，它會把很多節點集中在場景識別上。訓練神經網絡對場景識別則正好相反，它將很多節點集中在物體的身份證明上。
文中最後表明：因爲目前還不能完全理解人類是如何思考，如何分類和識別信息，神經網絡只是基於假設的人類思考模型提出來的。 MIT CSAIL的這項研究最終也可能會揭示神經科學的一些問題。相關論文將會發表在今年的CVPR，應該會引起人工智能研究界的極大興趣。
via TechCrunch；雷鋒網編譯