三星使用内置pim的显卡构建了世界上第一个大规模计算系统引用business korea,使用pim改装的96 amd instinct mi100 gpu,ai训练的性能提升了2.5倍
pim是一种新型的计算机内存,可以加速cpu和gpu的处理能力pim最大的特点是每个内存模块都可以自己处理数据,从而减少了内存和处理器之间需要传输的数据量
三星在今年10月公开展示了pim修改的gpu,现在该公司已经将96个pim修改的gpu放在集群中与普通显存相比,这些改进的mi100芯片不仅性能提升了2.5倍,功耗也降低了2.67倍,大大提高了gpu运行ai算法时的效率
三星pim已经发展了一段时间该公司在2021年展示了多种实施方案,涉及多种不同的内存类型,包括ddr4,lpddr5x,gddr6和hbm2在lpddr5的形式下,三星在涉及meta ai工作负载的测试程序中,性能提高了1.8倍,功耗降低了42.6%,延迟降低了70%
本站了解到,amd instinct mi100加速器的设计完全是为了迎接新的计算时代1mi100加速器采用amd cdna架构,在计算和互联性能上实现了飞跃相比上一代amd加速器,高性能计算性能提升近3.5倍,人工智能提升近7倍
三星并不是唯一一家开发pim芯片的公司——sk海力士今年早些时候发布了自己的pim模块根据sk海力士的初步测试,其gddr6—aim应用可以将ai处理速度提高16倍,功耗降低80%这比三星改装的mi100s要快很多,但是我们不知道sk海力士用什么工具进行测试,所以无法直接对比