科技先驅警告:AI系統可能「與人類作對」

 2024-11-22 06:45:10.0

圖靈獎得主、電腦科學家Yoshua Bengio最新警告稱,人工智慧(AI)這項新興技術可能對人類社會產生負面影響,並呼籲進行更多研究以減輕其風險。

Bengio在深度學習方面獲得了多個國際獎項,為AI的發展奠定了基礎,但他現在對這項技術擔憂擔憂,並警告說,一些擁有「強大力量」的人甚至可能希望看到人類被機器取代。

他表示:「展望未來,機器在許多方面和我們人類一樣聰明,這對社會意味著什麼?」他補充說,機器可能很快就會擁有人類的大部分認知能力,通用人工智慧(AGI)正在變成觸手可及的未來。

Bengio認為,只有少陣列織和政府能夠負擔得起建造強大的AI機器,而且往往系統越大,它們就越智慧。「這些機器,你知道的,花費數十億美元來建造和訓練,很少有組織和國家能夠做到這一點,這已經是事實了。」

Bengio指出,我們沒有辦法確保這些系統不會傷害人們或不會反對人們……我們不知道如何做到這一點。

而且這樣的前景離我們並不遙遠,Bengio認為,幾十年內就可能實現,因此,人類需要仔細研究許多針對性的問題,並儘快開始緩解可能的風險。

科技先驅警告:AI系統可能「與人類作對」

需要進行監管和立法

還有觀點認為,AI機器目前的訓練方式「將導致系統與人類對立」。「此外,有些人可能想要濫用這種權力,有些人可能很高興看到人類被機器取代,除非我們現在設定正確的護欄。」

在今年6月份,Bengio聯合許多科學家發表了一封題為「對先進AI發出警告的權利」的公開信,他們呼籲科學家、政策制定者和公眾為減輕這些風險提供指導。

Bengio指出:「政府需要做的第一件事就是制定法規,迫使科技公司在建立這些前沿系統時進行註冊,政府應該知道他們的邊界在哪裏,你知道的,這些系統的細節。」

由於AI發展如此之快,政府必須「發揮自己的創造力」,制定能夠適應技術變化的立法。Bengio表示:「爲了享受人工智慧帶來的好處,我們必須進行監管,我們必須安裝護欄,我們必須對技術的開發進行監督。」

至於AI系統最大的負面影響,Bengio認為短期內應該是虛假資訊、錯誤資訊、AI影響政治和認知的能力。「隨著我們的發展,將擁有能夠生成更逼真影象、更逼真聲音和更逼真視訊的機器。」

最難的是,如果我們創造出比我們更聰明、有自己目標的實體,這對人類意味著什麼?Bengio回答稱:「這些都是非常困難和重要的問題,目前還沒有答案。但我們需要更多的研究和預防措施來減輕潛在的風險。」

科技先驅警告:AI系統可能「與人類作對」


文章出處: 財聯社

文章來源:快科技