CCCF:周志華 | 關於強人工智能

 2018-01-19 10:55:00.0

前言:本文作者周志華,首發於公衆號中國計算機學會,來源於《中國計算機學會通訊》2018年第1期《專欄》。

近來「人工智能」很熱,關於「強人工智能」的一些討論也見諸於網媒報端。作爲一名人工智能研究者,在此談點粗淺的看法僅供大家批評。

關於人工智能,長期存在兩種不同的目標或者理念。一種是希望借鑑人類的智能行爲,研製出更好的工具以減輕人類智力勞動,一般稱爲「弱人工智能」,類似於「高級仿生學」。另一種是希望研製出達到甚至超越人類智慧水平的人造物,具有心智和意識、能根據自己的意圖開展行動,一般稱爲「強人工智能」,實則可謂「人造智能」。

人工智能技術現在所取得的進展和成功,是緣於「弱人工智能」而不是「強人工智能」的研究。正如國際人工智能聯合會前主席、牛津大學計算機系主任邁克爾·伍德里奇(Michael Wooldrige)教授在 2016 年 CCF-GAIR 大會¹報告中所說:強人工智能「幾乎沒有進展」,甚至「幾乎沒有嚴肅的活動」(「little progress, little serious activity」)。事實上,人工智能國際主流學界所持的目標是弱人工智能,也少有人致力於強人工智能。那麼,這是不是因爲強人工智能「太難」,所以大家「退而求其次」呢?不然。事實上,絕大多數人工智能研究者認爲,不能做、不該做!

CCCF:周志華 | 關於強人工智能

牛津大學邁克爾·伍德里奇教授

首先,從技術上來說,主流人工智能學界的努力從來就不是朝向強人工智能,現有技術的發展也不會自動地使強人工智能成爲可能。

不妨看看現在人工智能技術所取得的成功。在圖像識別、語音識別方面,機器已經達到甚至超過了普通人類的水平;在機器翻譯方面,便攜的實時翻譯器已成爲現實;在自動推理方面,機器很早就能進行定理自動證明;在棋類遊戲方面,機器已經打敗了最頂尖的人類棋手……可以看出,上述成功有一個共同的特點:它們都是在考慮某種特定類型的智能行爲,而不是「完全智能」行爲²。一方面,聚焦在特定類型的智能行爲上,才使得任務成爲可能而非空談³;另一方面,如果目標是製造「工具」,那麼考慮特定類型的智能行爲就已足夠,自主心智、獨立意識、甚至情感⁴之類的東西,根本無須考慮。打個未必恰當的比方,如果人們的目標是造個工具砸東西,那麼造出錘子來就好了,無須考慮讓錘子有心智、意識,也不必考慮是否要讓錘子自己感覺到「疼」。事實上,人工智能研究活躍的子領域,都是與製造智能「工具」直接相關的;而對「強人工智能」必不可少、卻與「工具」不太相關的內容,如自主心智、獨立意識、機器情感之類,罕有嚴肅的研究。所以,現有技術即便發展再快、發展再好,也不會直接使得強人工智能成爲可能。

第二,即便想研究強人工智能,也不知道路在何方。

有一種說法,認爲如果能夠模擬出「人腦」,把其中的神經元、神經突觸等全部同規模地仿製出來,那麼強人工智能就會自然產生。然而,這種說法從來沒有得到過一點點證明,嚴格說來甚至不能稱其爲「猜想」,因爲猜想也應該有一些即便不夠完備但尚能顯示可能性的證據,例如通過仿製簡單細胞,做出了單細胞智能生物。實際上,我們完全有更強烈的理由認爲,即便能精確地觀察和仿製出神經細胞的行爲,也無法還原產生出智能行爲。正如國際人工智能終身成就獎得主、多倫多大學赫克託·萊韋斯克(Hector J. Levesque)教授在他2017年的新著⁵中所說,即便在最理想的情況下,神經科學家也僅是能獲得「目標代碼」而已,沒有理由認爲獲得了目標代碼就能還原出源代碼,因爲這樣的「反向工程」即便對軟件程序來說也幾乎是不可能的,更何況神經細胞內部還存在「分佈式表示」⁶。

第三,即便強人工智能是可能的,也不應該去研究它。

任何一個科學研究領域或許都存在一些不該去觸碰的東西。例如克隆人是被主流生命科學界所禁止的。強人工智能的造物將具有自主心智、獨立意識,那麼,它憑什麼能「甘心」爲人類服務、被人類「奴役」?有人把阿西莫夫的「機器人三定律」⁷奉爲圭臬,但事實上這是行不通的。且不論三定律自身的矛盾和漏洞⁸,憑什麼以爲有自主心智和獨立意識,且智能全面達到甚至超越人類水平的機器,就不會把這些約束改掉呢?即便它是善意的,人類又憑什麼認爲它會同意比它「愚蠢」的人類的判斷?例如它會不會以爲把人類全部關進監獄就可以避免人類互相殘殺,這纔是對人類整體最好的?至於說,到時候人類如果覺得危險了,可以把機器的電源斷開……這只是開個玩笑吧,真到那個時候,機器恐怕早就能採用其他的方式攝入能源了。總之,強人工智能出現的那一天,恐怕真的就是人類面臨最大生存危機的時候。所以,對嚴肅的人工智能研究者來說,如果真的相信自己的努力會產生結果,那就不該去觸碰強人工智能。

作者介紹

周志華

CCCF:周志華 | 關於強人工智能

CCF會士、常務理事、人工智能與模式識別專委主任。

南京大學教授、計算機軟件新技術國家重點實驗室常務副主任。

ACM / AAAS / AAAI / IEEE / IAPR Fellow,歐洲科學院外籍院士。

研究方向:人工智能、機器學習、數據挖掘等。

腳註

1. 全球人工智能與機器人峯會,是由中國計算機學會(CCF)主辦。此會於2016年8月12~13日在深圳舉辦。

2.人類始終在不斷努力製造出在某個特定方面超越人類自身能力的工具,例如潛艇比人遊得深、火箭比人飛得高,但似乎罕有人努力製造既是潛艇又是火箭的工具。類似地,人工智能研究也是在努力製造出在某種智能行爲方面超越人類自身的工具。

3.事實上,「圖靈測試」所考慮的也僅是機器能否「思考」(thinking),而不是強人工智能語境下的「完全智能」。

4.人工智能中有關於「情感計算」的研究,但並非是研究如何讓人造物「擁有情感」。

5.《Common Sense, the Turing Test, and the Quest for Real AI》

6.並非由單一神經細胞對應單一功能,而是諸多神經細胞共同發生作用。

7.一、機器人不得傷害人,也不得見到人受傷害而袖手旁觀;二、機器人應服從人的一切命令,但不得違反第一定律;三、機器人應保護自身的安全,但不得違反第一、第二定律。

8.由於發現三定律有漏洞,阿西莫夫後來補充了第零定律:機器人不得傷害人類整體,或因不作爲而使人類整體受到傷害。


相關文章:

AIR 014 | 楊強對話Michael Wooldridge:我們關注的領域有沒有大數據?

AIR 074 | 牛津系主任Michael Wooldridge:AI讓我們重新思考社會關係


文章來源:雷鋒網