三星再次将注意力转向PIM技术， 希望能在下一代AI应用中取代传统HBM
三星在2021年推出了集成AI处理器的HBM2内存，名为“HBM-PIM (processing-in-memory) ”，最高可提供1.2 TFLOPS嵌入式计算能力，使内存芯片本身可以运行CPU、GPU、ASIC或FPGA的操作。三星在每个内存模块内注入了一个AI处理器，从而将处理操作转移到HBM本身，从而减轻了内存与一般处理器之间转移数据的负担。
根据相关媒体报道，为了追赶竞争对手SK海力士，三星再次将注意力转向PIM技术，希望能在下一代人工智能（AI）应用中取代传统HBM。三星电子首席执行官兼设备体验（DX）部门负责人韩宗熙最近在公开活动上表示，人工智能正在以前所未有的速度改变生活，如何更负责任地使用AI变得越来越重要，三星正致力于培育更有效率、更永续的AI生态系统。
HBM是数据中心AI加速器的重要组成部分，但三星在这一领域长时间落后于SK海力士。为了重新确立自身在内存市场的领导地位，三星打算重新押注PIM技术，理论上能带来翻倍的性能提升，同时平均能耗降低了近50%。
依照三星最初的构想，会将PIM技术扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上，但后来迟迟没有行动。三星在2022年曾对AMD Instinct MI100计算卡进行改造，加入了HBM-PIM芯片，然后使用96张经过改造的Instinct MI100计算卡构建了一个大型计算系统。相较于未改造前的系统，新系统在使用训练语言模型算法T5时性能提高了2.5倍，功耗降低至原来的2.67分之一。
三星也强调了与AMD的合作关系，传闻正在向其供应HBM3E芯片。
