三星在使內存處理 (PIM) 技術成為主流方面又邁出了一步。其支持 PIM 的高帶寬內存 (HBM-PIM) 首次成功集成到商業化加速器系統中，這是將 PIM 技術集成到其他內存類型的愿景的一部分。
今年2月，三星推出了其首個HBM-PIM（Aquabolt-XL），將AI處理能力整合到三星HBM2 Aquabolt中，以增強超級計算機和AI應用的高速數據處理能力。隨后，HBM-PIM在賽靈思（Xilinx）Virtex Ultrascale+（Alveo）AI加速器中進行了測試，它提升了近2.5倍的系統性能，并降低超過60%的能耗。
三星內存業務部高級副總裁 Nam Sung Kim 概述了公司如何看待帶有 HBM2-PIM 的 Aquabolt-XL 用于機器學習（ML ) 加速器和其他人工智能 (AI) 應用。
他表示，由于各種物理和熱限制，新興 ML 和 AI 應用的內存帶寬需求快速增長，且更加昂貴和耗電。“由于PCB導線和芯片封裝、及功率的限制，繼續增加帶寬變得非常困難和昂貴。”

Kim 表示，通過讓處理器更接近內存，PIM 可以提高受內存限制的工作負載的性能和能源效率。
雖然PIM 并不是一個新想法，但對主機處理器和/或應用代碼進行必要更改是阻礙行業廣泛采用的一個關鍵障礙。
Aquabolt-XL瞄準是低算術密度的內存綁定負載，例如語音識別和自然語言處理，但 Kim 表示它并不打算與 AI 加速器中的機器學習競爭。相反，它旨在補充處理器的計算能力。“我們可以針對各種工作負載提高系統的性能和效率。”
PIM應用之外的HBM
三星也在 HBM 之外尋找 PIM 應用程序。Kim 表示，公司正在使用 PIM 以加速 DIMM (AXDIMM) 的形式為 DRAM 模塊本身提供處理能力。這最大限度地減少了 CPU 和 DRAM 之間的大量數據移動，以提高 AI 加速器系統的能效。
由于 AI 引擎內置于緩存芯片內部，AXDIMM 可以并行處理多個內存列（一組 DRAM 芯片），而不是一次只訪問一個列。