最新的AI會「殺死」編碼嗎?

 2020-09-03 18:00:11.0

(照片來自Scott Rodgerson)

現在,AI可以使用任何語言進行編碼,而無需額外的培訓。
 
2017年,有研究人員問: 人工智能能否在2040年之前編寫出大多數代碼?測試人員現在正在使用OpenAI的GPT-3已經可以使用任何語言進行編碼。機器主導的編碼幾乎就差臨門一腳了。
 
GPT-3接受了數千億個單詞的訓練,或者說基本上整個互聯網都參與了訓練,這就是爲什麼它可以使用CSS,JSX,Python等任何你能說出名字的語言進行編碼的原因。

此外,GPT-3無需對各種語言任務進行「訓練」,因爲其訓練數據包羅萬象。相反,當你給出瑣碎的指令時,網絡會被手頭上的任務限制住。
 
GPT-n的演變
 
GPT通過將有 監督學習與無監督的預訓練相結合(或將無監督步驟的 參數用作有監督步驟的起點),實現了語言任務的最先進水平。與下一代相比,GPT很小。它僅利用了一臺8CPU機器在幾千本書上進行訓練。
 
GPT-2極大地擴展了內容,包含10倍的 參數,並加入了10倍以上的訓練數據。儘管如此,該數據集還是相對有限的,它專門使用「至少運用了3個karma的Reddit出站鏈接」進行訓練。 GPT-2被描述爲一個「類似變色龍」的合成 文本生成器,但在諸如回答問題,總結或翻譯之類的下游任務中並不是最先進的。

(照片來自Hans-Jurgen Mager)GPT-3是AI世界中最新,最強大的工具,它在一系列任務中達到了最先進的水平。它的主要突破是消除了針對特定任務微調的需求。在大小方面,該模型再次大幅擴展,達到了1,750億個參數,是其前身規模的116倍。

然而,GPT-3完全不需要訓練(零次學習的例子),單次學習或多次學習會使它喪失原本優秀的性能。
 
進化還是死亡
 
情況是這樣:測試人員正在使用GPT-3來生成能掌握必要繁瑣知識的有效代碼從按鈕到數據表,甚至重新創建Google主頁。這些示例都是通過 零樣本學習完成的。
 
除了AI的飛速發展外,另外兩個主要的技術趨勢也使編程工作在未來不穩定的現實變得更爲嚴峻:無代碼和AutoML。
 
無代碼是指可視化工具,使任何人都可以輕鬆構建新產品,無論是網站,設計, 數據分析還是模型。WordPress,Wix和Shopify是無代碼工具的典範,它使數以百萬計的人能夠自己做事,而不必僱用開發人員或設計師。
 
第二個趨勢是AutoML,即自動 機器學習,它大大縮短了將AI投入生產的時間。
 
諸如Apteo之類的工具結合了這些趨勢,使任何人都可以部署AI模型而無需任何編碼技能。
 
GPT-3將引發另一波無代碼和AutoML工具的浪潮。許多潛在的僱主會選擇這些工具,而不是僱用昂貴的程序員。
 
自然地,技能最差的程序員將是最先離開的人羣,而專家將享有更長的工作安全性-與任何領域一樣。
 
不僅僅是代碼— GPT-3適用於任何語言任務
 
要將GPT-3定向到特定的語言任務,只需簡單地把你希望實現的示例提供給它。因此,您可以指導GPT-3編寫代碼,也可以指導它編寫詩歌,音樂,社交媒體評論或任何其他文本。
 
例如,如果您要生成新聞文章,則可以輸入諸如「美國衛理公會同意歷史性分裂」之類的標題,以及諸如「反對同性婚姻的人將構成自己的宗派」之類的副標題。
 
輸入這些,GPT-3產生以下結果:
 
「經過兩天的激烈辯論,衛理公會聯合會達成了歷史性的分裂-預期將以新教派的創建而告終,根據《華盛頓郵報》的說法,該教派將是「神學上和社會上的保守派」。參加5月教堂年度大會的大多數代表投票表決,加強了對LGBTQ神職人員排序的禁令,並制定了新規則,將「紀律」主持同性婚禮的神職人員。但是那些反對這些措施的人有一個新計劃:他們說到2020年他們將組成一個單獨的教派,稱他們的教會爲基督教衛理公會派教徒……」
 
只有12%的人類正確地指出這是由AI編寫的。88%被騙了。
 
就像人類一樣,GPT-3可以僅通過一個例子就學會新單詞。例如,給定上下文:
 
「 Burringo」是具有非常快的加速度的汽車。一個使用Burringo單詞的句子的示例是:

GPT-3輸出:
 
在我們的車庫中,有一個父親每天開車去工作的Burringo。
 
這些結果令人激動。請記住, 人工智能的發展必然的,因此對當前性能的任何批評都將化爲烏有。
 
不僅僅是語言— GPT應用於圖像
 
GPT可以編寫代碼,或者可以編寫任何東西,但是它也可以生成圖像。
 
這怎麼可能?
 
可以在像素序列而不是文本編碼上訓練相同的模型體系結構,從而生成新的圖像而不是新的文本。實際上,它在這方面如此出色以至於可以與頂級CNN競爭。
 
我之所以提及這一點,是因爲它表明GPT(及下一代)不僅具有某一天取代編碼器的潛力,而且鑑於其通用性,還可以取代整個行業。
 
結論
 
GPT-3令人難以置信的性能已經使許多人相信超級智能比我們想象的要近,或者至少, 人工智能生成代碼比我們想象的要近。它會產生創造性的、有見地的、深刻甚至美麗的內容。有關GPT-3的更多創造性示例(並且如果您需要更相信它的強大,請查看Gwern的這篇文章):

https://www.gwern.net/GPT-3#effective-prompt-programming

原本標題:

Will The Latest AI Kill Coding?

原文鏈接:

https://towardsdatascience.com/will-gpt-3-kill-coding-630e4518c04d

文章來源:機器之心