快科技5月24日訊息,據報道,為解決長期困擾AI晶片的「記憶體牆」問題,全球記憶體與封裝產業正評估一種全新架構:將GPU與HBM拆分開來獨立封裝,再通過光學互聯技術橋接數據傳輸。
一位韓國儲存廠商研究人員透露,當前業內擴充套件HBM頻寬與容量的努力正遭遇結構性瓶頸,公司正在與客戶討論通過光學互聯突破GPU晶片「海岸線」限制,以搭載更多HBM。
過去,HBM始終緊貼GPU進行2.5D封裝以最小化數據傳輸延遲。但GPU晶片的邊緣長度,已逼近物理極限,周邊空間再無法容納更多HBM。
與此同時,垂直堆疊路線同樣逼近極限。HBM堆疊層數從12層、16層向20層以上邁進,工藝難度呈指數級上升。
需要指出的是,新架構將HBM安置在距GPU數釐米位置,圍繞GPU環形排列或在電路板中央設獨立HBM區域。
由於光訊號傳輸速度遠超電訊號,物理距離的增加不會造成明顯延遲損失。
光學互聯方案已有實際技術驗證。在2025年Hot Chips大會上,Celestial AI已展示其光子互聯模組,可圍繞GPU封裝實現光學I/O,將周邊空間釋放給HBM。
一位全球OSAT廠商高管表示,光學互聯已是明確趨勢,技術落地將先從機架間、伺服器間開始,再擴充套件至單板內部晶片間互聯,但晶片間光互聯的到來可能不會太遙遠。

