GPU的主页

帮趣游戏     进入个人中心

GPU

gpu

幫趣網協助針對GPU資訊發佈, 幫趣網擁有針對IT領域数十萬筆活動聯繫資訊,並且協助廠商做資訊發佈,活動發佈

http://bangqu.com/gpu

职业: GPU

现居:

  • 浏览 220次
  • 感谢 0人
  • 收益 ¥0.0元

2017年的深度學習將會如何發展?Maluuba的科學家這麼說

Maluuba 的願景是通過創造像人類一樣能思考、推理和交流的高智能機器,為通用人工智能的構建儘自己的一份力。

 

為了實現這個願景,我們不斷成長的研究科學家和工程師團隊正在努力解決語自然言理解中的各種挑戰性問題。他們追尋構建智能機器的新方式,希望能夠模仿人類的常識、好奇心、創造性思維和決策制定等天生能力。我們正積極推動機器理解與交流能力的創新。

 

本文中,Maluuba 研究團隊的五名成員分享了他們對於人工智能的趨勢和應用的看法。我們認為人工智能在2017 年和可預見的未來里將會成為最具變革性的領域。


ADAM TRISCHLER(高級研究科學家)

問:你預計2017 年人工智能主要的進步會出現在哪個方面?

 

答:儘管機器學習已在2016年取得了長足的進步,但人工智能係統目前還是一種專家系統:這種系統如果不消除它已經學習到的知識,是不能增加新技能到技能全集中的。這一個問題就稱之為遺忘災難(catastrophic forgetting)。例如,訓練好在相片中識別面部的人工智能係統就不能在其他如街道標誌識別任務上表現出色。針對每個任務都需要特定地去訓練一個智能係統。

 

經典研究如補充學習系統(complementary learning systems)和雙神經網絡(dual neural networks)試圖尋求解決此類問題的方法,但它們只在小尺度上起作用。最近,研究員已經在深度網絡中解決了遺忘災難問題(catastrophic forgetting),並利用新的構架和技術取得了重大的初步進展。這項工作在2017 年將繼續進行,它將為人工智能係統學習「在線(online)」和增量(incrementally)、改善壽命、增加新能力、學習如何將現有技能組成更複雜的操作流程奠定基礎。

 

問:在2017 年,自然語言理解領域將有哪些方向會脫穎而出?

答:人類工智能最經典的辯論就是聯結主義(connectionism)和符號主義(symbolism)的對抗(分佈式、模糊統計表徵與通過規則交互的統一符號之間的鬥爭)。隨著深度學習的崛起,聯結主義範式已經接管了一切(這是合理的,因為它能有效解決問題)。然而,我認為符號主義對執行各種高級別的任務更有實用性。在2017 年,我希望能看到結合這兩種方法優點的研究。如在開發深度神經網絡時,可以學習使用硬規則快速利用邏輯進行推理推斷。我對自然語言感興趣的部分是它好像存在一個交叉領域:詞是我們根據語法硬規則進行結合的符號,但它們的使用表現出統計細節和靈活性,並且分佈式詞表徵已經證明它是極其有效的手段。

 

HARM VAN SEIJEN(研究科學家)

問:你預計2017 年強化學習將會出現哪些新進展?

 

答:強化學習(Reinforcement learning)與深度學習相結合,在單一任務的處理上顯示出了非常高的效率。如學習玩Atari遊戲,但是其幾乎不存在跨任務學習(cross-task learning)。在2017年,學習通用技能將會取得巨大的進步,這樣系統就能適用於許多不同的任務。隨著人們和公司正在朝會話代理(conversational agents)前進,強化學習將在幫助構建能處理來自用戶一系列複雜問題的代理這一方面發揮越來越重要的作用。

 

問:公眾對人工智能安全性存在很大的擔憂,你怎麼看待這個問題?

答:隨著越來越多的人工智能產品被推出,我期待人工智能安全性夠獲得更多的討論(甚至期待更多的好萊塢電影和電視劇描述人工智能暴亂)。雖然我們需要謹慎地對待人工智能恐慌,不過我認為這類討論還是挺好的。人工智能的安全問題最終不是技術問題,而是政治問題。我們作為一個社會整體必須重新思考我們想要如何定義在世界上的位置,尤其是機器能進行絕大部分甚至比人做得更好的工作。

 

LAYLA EL ASRI(研究科學家)

問:你預計2017 年人機對話界面(conversationalinterfaces)主要的進步將是什麼?

答:人機對話界面早在2011年的個人助手就開始出現,現在已經變得越來越普遍了,尤其是Siri發布後。2016年隨著基於文本的對話界面(或聊天機器人)的爆發和SkypeFacebook Messenger等平台的發展,我們已經取得了長足的進步。會話代理其中一個研究瓶頸就是缺乏數據,同時我們需要採用模擬的形式來訓練我們的模型。新型自然語言理解平台的興起將有助於真實用戶的數據收集,並訓練只能在現實環境中學習的基本技能。因此,我相信在2017年我們將看到記憶、信息蒐集和決策制定等能力集成到會話代理中。FramesMaluuba公司的第二個數據集,它包含19986個問答對,可用來訓練自然會話過程中的深度學習算法)和我們以目標為導向的對話數據集將支持更複雜的會話交互。


以目標為導向的對話數據集

問:我們在2017 年會看到由自然語言理解支持的產品或服務嗎?

 

答:在過去幾年中,計算機視覺已經發展得相當成熟了。最近,大數據集和高效算法也發布了許多,它們能幫助在物理環境中進行對話的研究。即時應用能成為客戶服務的自然延展,它能使用機器視覺進行錯誤排查。

我相信會話代理的下一步將是能夠通過視覺獲得文本信息,從而減少向用戶詢問的問題數量以達到更高效。

PHILIP BACHMAN(高級研究科學家)

 

問:無監督學習哪些方向是很有前途的?

答:無監督學習是一種在沒有外部標記或監督的方式下幫助模型「理解」數據(圖像、文本、視頻等)的方式。以前的工作主要集中在這些模型的最終輸出,而模型的內部運行方式如何合作產生輸出的過程經常被人忽視。最近的研究發展讓我們可以解釋模型的內部行為。如,我們現在可以激活某些特徵去表徵圖像對象的類型,而其他一些可以表徵它的地理位置,或者激活某些特徵來表徵電影評論的情感分析,而其他特徵表徵其類型。這些技術使我們離學習目標越來越近,即表徵和推斷更高層次的概念,並解釋模型看到了什麼。為更廣泛的模型與任務提供這個能力將大量增加無監督學習的實際價值。

 

問:使用無監督學習進行自然語言理解的核心挑戰是什麼?

答:模型能抽取壓縮的表徵將會是很大的進步,因為它揭示了自然語言文本的語義內容。理解自然語言的主要困難就是可以用很多不同的方式表達一個想法。而通常,我們想從一些文本中提取的是一個表示意圖,即驅使某人寫下該文本的目的和該文本傳遞的意思。很多情況下,用於表達想法的特定詞語和語法除了我們需要的還包含了許多信息。將關於意圖和想法的信息與文本呈現出的表面形式分離是當前模型的主要挑戰。無監督學習技術將通過挖掘內容和形式的因式表徵來克服這種信噪比問題(signal-to-noise problem),這將是一個巨大的進步。

ALESSANDRO SORDONI(研究科學家)

 

問:你認為2017 年人工智能的主要進步將會是什麼?

答:當前活躍的研究領域是元學習(meta-learning)支持算法的開發。元學習算法(meta-learning algorithms)不僅在特定任務上表現良好,同時它被設計成能夠發掘學習本身的基本規則。所以相同的算法可以利用推斷的規則解決其他相關但之前沒見過的問題。當然,這是人工智能的一個開放性問題,仍然需要做很多研究。

 

問:這將對會話代理(conversational agents)有什麼幫助?

答:要讓會話代理真正起作用,它們就應該具備信息搜尋能力。想像一下,讓一個代理學習去詢問和搜尋進行用戶參數選擇的信息:這個策略將促進對話體驗的個性化和隨後用戶參與度的增加。在這個意義上,學習如何通過提問從用戶那裡獲取信息是一種元學習的形式,這將測試哪些問題單個用戶同樣給其他用戶提供有用的信息。當然,代理不應該經常詢問用戶,他應該自己去搜尋有用的信息。

  

原文網址:http://www.maluuba.com/blog/2017/1/3/maluubas-ai-deep-learning-predictions-for-2017



分享时间: