[發明專利]使用光學鏈路進行的封裝外高密度、高帶寬存儲器存取

在審

• 申請號: 202110973637.9
• 申請日: 2021-08-24
• 公開（公告）號: CN114256224A
• 公開（公告）日: 2022-03-29
• 發明（設計）人: M·K·庫馬什卡爾;D·蘇巴雷迪;A·塔庫爾;M·A·侯塞恩;A·那拉馬爾普;C·G·蒂倫;D·S·克羅登;K·P·馬;S·Y·舒馬拉耶夫;S·薩內;C·歐基夫
• 申請（專利權）人: 英特爾公司
• 主分類號: H01L25/18
• 分類號: H01L25/18;G02B6/42
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 鄔少俊

本文的實施例涉及用于使用片上系統內的光學物理層管芯與另一封裝上的光學物理層管芯光學耦合以在片上系統與另一封裝之間提供高帶寬存儲器存取的系統、設備或技術。在實施例中，另一封裝可以是包括與光學物理層管芯耦合的存儲器控制器的大型光學連接的存儲器裝置，其中存儲器控制器與存儲器耦合。可以描述和/或要求保護其他實施例。

技術領域

本公開的實施例總體上涉及存取高密度存儲器的封裝的領域，并且特別地涉及使用光學鏈路來存取封裝外存儲器。

背景技術

人工智能(AI)工作負載將繼續需要高存儲器帶寬以利用圖形處理單元(GPU)、現場可編程門陣列(FPGA)和中央處理單元(CPU)中的高密度計算結構。

附圖說明

圖1示出了根據實施例的封裝內高帶寬存儲器(HBM)的傳統實施方式的示例。

圖2示出了根據實施例的使用單個光學鏈路進行的封裝外、高密度、高帶寬存儲器存取的詳細示例。

圖3示出了根據實施例的與多個大型光學連接的存儲器裝置(LOCM)封裝交互的多個片上系統(SOC)封裝的示例性系統。

圖4示出了根據實施例的使用外部激光二極管與LOCM耦合的SOC的示例。

圖5示出了根據實施例的實施包括使用光學鏈路進行的封裝外、高密度、高帶寬存儲器存取的系統的示例性過程。

圖6示意性地示出了根據實施例的計算裝置。

具體實施方式

本公開的實施例總體上可以涉及針對使用光學鏈路進行的封裝外、高密度、高容量、高帶寬存儲器存取的系統、設備和/或過程。從傳統觀點來看，實施例針對通過將封裝外光學互連與封裝內的光學物理(PHY)部件和光纖集成來使用封裝外光學互連在封裝上實現類似的帶寬和帶寬密度。特別是，人工智能工作負載可以從高存儲器帶寬中受益，以利用SOC內的GPU、FPGA和CPU中的高密度計算架構。

傳統實施方式包括集成在具有CPU的封裝上的高帶寬存儲器(HBM)裝置。傳統實施方式還可以包括封裝外存儲器互連，如雙倍數據速率存儲器(DDR)。這些傳統實施方式具有低帶寬和低帶寬密度，但提供連接更高容量的存儲器。為了在這些傳統場景中提供更高的帶寬，可能需要在SOC上集成大量DDR通道。然而，這種方法增加了管芯面積、封裝面積，并且由于必須管理的封裝外信號數量的增加，也增加了封裝逃逸的復雜性。復雜性可能涉及附加的封裝襯底層、附加的印刷電路板(PCB)層和/或更高級且成本更高的封裝或PCB級的技術。

在傳統實施方式中，使用短距離互連的封裝上集成可以為SoC提供高帶寬。基于內插器或嵌入式多管芯互連橋(EMIB)的封裝上互連以面積高效的方式在存儲器和SOC之間提供高帶寬密度和高帶寬互連兩者。然而，在這些傳統實施方式中，由于封裝形狀因數的約束，這種存儲器的容量受限于小量的存儲器，例如每個裝置16G。通過向外擴展具有集成存儲器的SOC封裝，可以在系統級實現其他用于在封裝上實現更高容量存儲器的傳統實施方式。

在本文所述的實施例中，封裝上的光學PHY管芯可以使用諸如EMIB或內插器的互連來連接到SOC存儲器接口。光學PHY管芯可以連接到一個或多個單模光纖以提供封裝外互連。該光學鏈路可以連接到具有集成光學PHY和存儲器控制器的大容量存儲器裝置(LOCM)，以連接到LOCM上的存儲器裝置。在實施例中，該方法提供高帶寬密度、能量效率和低延遲，這在封裝上產生與封裝外存儲器類似的互連性能或更高的互連性能。實施例還提供非封裝存儲器裝置的分離。此外，由于光學鏈路的低損耗性質，這種分離的存儲器可以處于更遠的物理距離，但從電氣和性能的角度來看，它仍然表現得像是封裝上存儲器一樣。在實施例中，該方法根據LOCM在系統內的形狀因數和空間分配在構建LOCM方面提供了靈活性。