NVIDIA發布EGX邊緣,實時人工智能帶給全球各業

 2019-05-28

NVIDIA今日宣布推出NVIDIA EGX 加速計算平台,能夠幫助企業在邊緣(edge)實現低延遲的人工智能,即基於5G基站、倉庫、零售商店、工廠及其他地點之間的連續的數據流實現實時感知、理解和執行。
NVIDIA EGX旨在滿足對即時、高吞吐量的邊緣人工智能,即數據產生之處不斷增長的需求,在確保反饋時間的同時能夠減少需要發送至雲端的數據量。

2025年,預計將會有1500億台機器傳感器和物聯網設備持續輸出數據,這比當今使用智能手機的個人用戶所產生的數據要高出幾個數量級。像基於NVIDIA EGX平台這樣的邊緣服務器將分佈在全球各地,對來自這些傳感器的數據進行實時處理。

NVIDIA副總裁兼企業與邊緣計算總經理Bob Pette表示: “企業需要更加強大的邊緣計算能力,以處理來自於與客戶和設施的無數交互中產生的海量原始數據,從而快速制定人工智能增強型決策以驅動業務發展。像NVIDIA EGX這樣具有可擴展性的平台讓他們能夠輕鬆地部署系統,以滿足本地或云端的需求” 。


可擴展性

EGX可從僅需幾瓦就能為圖像識別等任務提供0.5 TOPS處理性能的小巧NVIDIA Jetson Nano™,一直擴展至可為實時語音識別和其他實時人工智能任務提供10,000 TOPS性能的整機架NVIDIA T4服務器。

企業級

NVIDIA已與紅帽開展合作,利用領先的企業級Kubernetes容器編排平台OpenShift對NVIDIA Edge Stack進行集成和優化。

NVIDIA Edge Stack是優化型軟件堆棧,包括NVIDIA驅動程序、CUDA® Kubernetes插件、CUDA容器運行時、CUDA-X™ 庫和容器化人工智能框架及應用程序,並包括TensorRT™、TensorRT推理服務器和DeepStream。NVIDIA Edge Stack針對經認證的服務器進行了優化,可通過NVIDIA NGC註冊下載。

紅帽首席技術官Chris Wright表示:“紅帽致力於為從混合雲到邊緣的任何工作負載、封裝和位置提供一致的體驗。通過將紅帽OpenShift和支持NVIDIA EGX的平台相結合,客戶能夠在一致、高性能、以容器為中心的環境中更好地優化其分佈式操作。”


“把雲放進以一個盒子裡”的本地部署AI

EGX將一系列的NVIDIA人工智能計算技術與紅帽OpenShift相結合,並將NVIDIA Edge Stack與Mellanox和思科的安全、網絡和存儲技術相結合,以助力製造、零售、醫療健康和交通運輸等大型產業內的公司快速建立最先進且安全的企業級人工智能基礎設施。

Mellanox Technologies首席技術官Michael Kagan表示:“Mellanox Smart NICs 和交換機為數據訪問提供了理想的I/O連接,可實現邊緣乃至超大規模數據中心的數據訪問。高性能、低延遲和加速網絡的組合實現了一種全新的基礎架構計算層,其對於NVIDIA EGX等邊緣平台上的新一代更先進的人工智能解決方案所需的高效數據訪問和供給至關重要。”

思科計算系統副總裁Kaustubh Das 表示:“思科很高興與NVIDIA合作。借助NVIDIA EGX賦力的思科平台,和思科計算、結構、存儲和管理軟件,以及思科領先的以太網和基於IP的網絡技術,我們能夠為客戶提供從邊緣到核心的全棧解決方案。”


實現混合雲和多雲物聯網

NVIDIA人工智能計算通過主要的雲服務平台提供,在架構上與NVIDIA EGX兼容。在雲端開發的人工智能應用程序可在NVIDIA EGX上運行,反之亦然。NVIDIA Edge Stack可連接至主要的雲IoT服務,客戶可通過AWS IoT Greengrass和Microsoft Azure IoT Edge對其服務進行遠程管理。

Azure IoT Edge總監Sam George表示:“Azure IoT Edge可助力客戶快速、安全地將雲服務部署至其物聯網設備。我們期待在Azure IoT Edge設備端提供對NVIDIA EGX邊緣平台的支持,以便客戶針對兼容EGX的硬件進行人工智能工作負載的部署。”


來自於開發者的廣泛支持

NVIDIA EGX正致力於優化邊緣人工智能,以支持不斷成長的軟件解決方案生態系統。

這些解決方案包括AnyVision、DeepVision、IronYun和碼隆科技等軟件供應商推出的適用於大型零售連鎖店和城市智能等視頻分析應用程序,以及圖瑪深維、推想科技、Qunatib和Subtle Medical等公司針對醫療健康領域的軟件產品。


全球頂級計算機製造商紛紛採用

EGX服務器現已通過以下全球企業級計算提供商供貨:ATOS、思科、戴爾EMC、富士通、HPE、浪潮和聯想。此外,也通過以下主要服務器和IoT系統製造商供貨:Abaco、宏碁、凌華科技、研華科技、ASRock Rack、華碩、圓剛科技、Cloudian、Connect Tech、Curtiss-Wright、技嘉科技、Leetop、米文動力、Musashi Seimitsu、QCT、中科曙光、超微、泰安、WiBase和緯穎科技。


NVIDIA EGX服務器針對NVIDIA Edge Stack和NGC-Ready進行了調優,經過CUDA加速容器的驗證。


來自於40多家企業組織的廣泛支持


率先採用該平台的行業領先企業及組織已超過40家。


其中就包括BMW Group Logistics。借助於NVIDIA EGX邊緣計算和Isaac機器人平台,其能夠將人工智能的強大功能直接帶入到其物流流程的邊緣,為日益複雜的物流提供實時效率。


其它採用EGX的行業領導者還包括:


“富士康PC生產線受限於當前的手動檢測速度,每個零件檢測需4秒鐘。我們的目標是使用NVIDIA EGX平台將PC生產線的吞吐量提高40%以上,在邊緣實現實時智能決策。我們的模型使用運行於NVIDIA GPU上的快速神經網絡,可對16種缺陷類型和位置進行檢測和分類,在實現非凡的吞吐率的同時確保98%的準確率。”


—富士康D Group總經理Mark Chien


“人工智能是實現精準健康的基礎,必須從雲端至邊緣全覆蓋,且能夠在醫療設備上直接使用。借助NVIDIA EGX,GE Healthcare能夠通過將NVIDIA T4 GPU直接嵌入到我們的醫療設備中,進而實現快速的MR採集,提高圖像質量並降低可變性——所有這些都是為了進一步提升患者治療效果。實時重症監護需要邊緣人工智能。這就是我們創建Edison智能產品並與NVIDIA合作將人工智能引入我們的醫療設備和Edison邊緣應用,以及我們與ACR AI-LAB合作以實現人工智能大眾化的原因。”


—GE Healthcare MR應用總經理Jason Polzin博士


“醫院越來越多地採用人工智能來預測患者的健康風險,為臨床決策制定提供支持並提高運作效率。但這些人工智能應用程序有賴於患者數據。NVIDIA EGX人工智能邊緣計算平台為醫院提供了簡易的人工智能基礎設施,能夠保護患者數據安全,實現實時人工智能,並擴展至成千上萬的人工智能應用程序,進而改善患者護理方式並降低護理成本。”


—Partners Healthcare首席數據科學官、哈佛醫學院放射學副教授Keith Dreyer博士


“希捷在製造工廠部署了基於GPU的智能邊緣視覺解決方案,以對硬盤讀寫磁頭的質量進行檢測。NVIDIA EGX平台能夠在邊緣實現推理的大幅加速,使我們能夠看到過去人類操作員無法看到的細微缺陷。我們希望通過更高的效率和質量,實現高達10%的製造吞吐量提升和高達300%的投資回報率。”


— 希捷科技高級首席數據科學家Bruce King

文章來源:新浪