SK海力士展示生成式AI加速卡AiMX原型：基于GDDR6-AiM构建

SK海力士展示生成式AI加速卡AiMX原型：基于GDDR6-AiM构建

去年SK海力士宣布，已开发出具备计算功能的下一代内存半导体技术，首款基于该技术的产品为GDDR6-AiM（Accelerator-in-Memory/内存加速器），将计算功能添加到速率为16 Gbps的GDDR6上。

近日在AI Hardware & Edge AI Summit 2023上，SK海力士展示了基于内存计算功能技术打造的AiMX加速卡原型产品，里面搭载了GDDR6-AiM，专门用于生成式人工智能（AI），比如ChatGPT。SK海力士还在配备了AiMX加速卡的服务器系统上演示了Meta的opt13b模型，与采用普通的GPU系统相比，数据处理时间缩短了10倍以上，而功耗仅为五分之一。

SK海力士表示，AiMX是一种比传统GPU更低成本、更低功耗、性能更高的解决方案，未来将继续开发引领人工智能时代的存储技术。作为一种能够处理大量数据的低功耗高速存储器解决方案，SK海力士认为AiMX将在数据密集型生成式人工智能系统的发展中发挥关键作用。由于生成式人工智能的性能会随着对更多数据的训练而提高，更加凸显了对应用于该系统的高性能产品的需求。

除了SK海力士以外，三星也有着相同的看法，在内存上集成的AI处理器，使其可以执行CPU、GPU、ASIC或FPGA的操作，未来还会将这项称为PIM (processing-in-memory) 的技术扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上。三星在今年的Hot Chips 2023上还公布了HBM-PIM和LPDDR-PIM的最新研究成果，在AMD Instinct MI100上配备了HBM-PIM内存，并将其应用于生成式人工智能。