全球首款，阿里达摩院成功研发基于 DRAM 的 3D 键合堆叠存算一体芯片

2021-12-03 15:20

12 月 3 日消息，据阿里云官方微信公众号发布，阿里达摩院成功研发出存算一体芯片。这是全球首款基于 DRAM 的 3D 键合堆叠存算一体芯片。该芯片突破了冯?诺依曼架构的性能瓶颈，满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定 AI 场景中，该芯片性能提升 10 倍以上，效能比提升高达 300 倍。

为了拉近计算资源和存储资源的距离，达摩院计算技术实验室创新性采用混合键合（Hybrid Bonding）的 3D 堆叠技术进行芯片封装 —— 将计算芯片和存储芯片 face－to－face 地用特定金属材质和工艺进行互联。

相比业内常见的封装方案 HBM，混合键合 3D 堆叠技术拥有高带宽、低成本等特点，被认为是低功耗近存计算的完美载体之一；内存单元采用异质集成嵌入式 DRAM ，拥有超大内存容量和超大带宽优势。

在计算芯片方面，达摩院研发设计了流式的定制化加速器架构，对推荐系统进行“端到端”加速，包括匹配、粗排序、神经网络计算、细排序等任务。

这种近存架构有效解决了带宽受限的问题，最终内存、算法以及计算模块的完美融合，大幅提升带宽的同时还实现了超低功耗，展示了近存计算在数据中心场景的潜力。

达摩院表示，最终的测试芯片显示，这种存算技术和架构的优势显著，能通过拉近存储单元与计算单元的距离增加带宽，降低数据搬运的代价，缓解由于数据搬运产生的瓶颈，而且与数据中心的推荐系统对于带宽／内存的需求完美匹配。

目前，该芯片的研究成果已被芯片领域顶级会议 ISSCC 2022 收录。