聊聊～快速存儲記憶體的新進展－SwayChat 吃喝玩樂生活體驗

Rambus HBM 子系統是 HBM2E 速度的兩倍多！

快速存儲記憶體 (HBM2E) 幾乎沒有進展，但 Rambus 已經準備好使用第三代 HBM 子系統，而且運行速度快兩倍多。

伺服器和 GPU 存儲容量和速度將從今天的插入連接 X86 伺服器 DRAM 飛速發展。英偉達 GPU 已經放棄了這一點，並使用 HBM——堆疊記憶體芯片使用中介層而不是物理性的插槽通道連接到GPU。

我們可以將 HBM+中介層+處理器系統視為使用小芯片，HBM 部分是一個小芯片，處理器是另一個，兩者都通過中介層連接。

HBM 一個接一個地堆疊內存芯片以增加超出 DRAM DIMM 的封裝容量，並使用一組寬通道來打破插槽連接限制。英特爾 Ice Lake 服務器處理器支持 8 個插槽，高於之前的 Gen-2 Xeon 6。這對於多 GPU 伺服器以及開發分析和機器學習模型來說是不夠的，這些模型需要在記憶體中存儲大量數據以進行快速和重複訪問。