储存级内存(Storage Class Memory, SCM)概念虽然早在 2008 年就已被 IBM 等厂商提出,但 2019 年才可说是 SCM 元年。
储存级内存 SCM 是一种介于 DRAM 与 NAND Flash 之间的技术概念。应用上大致可分为储存及内存两种形式。是作为底层储存装置,或混合 SSD 使用,另一种则用于辅助 DRAM 来提供加速存取的效果。简单来讲,SCM 就是 DRAM 与 SSD 的中介,一种高速读写的非挥发性内存技术,用来改善系统整体 I/O 效能。
在理想中,它是一种速度能与 DRAM 媲美,但成本逼近传统硬盘的新型储存技术。当然目前大概只有读取速度能与 DRAM 比肩,写入速度仍有差距,且在 SSD 的单位成本已逼近传统硬盘的境况下,SCM 还没有足够的性价比做为底层储存装置。
且实际上,还有诸多被指望成为 SCM 的技术尚未决出胜负,包括相变化内存(PCM)、磁性内存(MRAM)、电阻式内存(RRAM)等,但达到商品化的,目前市面上仅有少数大厂如英特尔与美光合作的 3D XPoint 及三星的 Z-NAND 技术。
SCM 弥补落差
而这些技术的目标及潜力都在于能弭平 DRAM 与 SSD 读写速度的鸿沟。理论上,现代资讯系统由于内装置性能的落差徒增不少功耗,资料往返所耗费的时间,成为整体性能的短板,所以在处理器与内存之间设有暂存器及快取等,而引入 SCM 做为内存缓冲或 SSD 快取,也都是为了解决这样的问题。
▲ 储存单元比较。(Source:科技新报)
当然内存内处理(In-memory Computing)才是更理想的方案,其将储存设备间资料交换与运算的过程,改成直接从内存存取资料,和以传统硬盘构成的资料储存架构相比,能更快速地回传结果,特别适合需要大量即时资料分析的应用环境,而 SCM 的问世朝此迈出了相当大的一步。
当然 SCM 离完全取代 SSD 仍需一段时日,不过已先重燃了分层储存架构应用。近年来在 SSD 成本越来越低的情况下,原先自动分层储存技术(Auto-Tiering)所提供的效能就不再那么引人关注。但如今由 DRAM、SCM、SSD 所构成的新分层储存架构,将在兼具成本效益下,进一步改善系统性能。
由 SCM 及 DRAM 架构出的统一寻址空间,等同于扩大服务器的缓存规模。尤其是在 SCM 结合 SSD 标准 NVM Express(NVMe)后,能更进一步降低延迟。所以除了硬件进展之外,NVMe 的发展也备受瞩目。在 2017 年英特尔所推出的 NVMe SCM 产品获得相当大的成功。基于与芯片组及处理器直接点对点传输的 PCIe 界面的 NVMe,可说是现今要发挥 SCM 概念的必然设计。
NVMe 形成生态
且 NVMe 早已不仅仅是单纯的逻辑装置界面标准,更逐渐扩展成一套生态系统,细分出了 NVMe-MI(NVMe Management Interface )以及 NVMe-oF(NVMe over Fabrics)等协定。
▲ NVMe 生态架构。(Source:NVM Express 官网)
其中 NVMe 作为主要标准,规范了 Host 对储存装置的读写、存取以及资源管理等功能,而 NVMe-MI 则能透过 SMBus/I2C 及 MCTP 等进行带外管理。NVMe-oF 则是一种基于 NVMe 的网络协定,支援如 FC(Fibre Channel)、RoCE(RDMA over Converged Ethernet)、iWARP(Internet Wide-area RDMA Protocol)与 InfiniBand 等网络环境,展现出应用在更广泛系统的潜力。
使用 NVMe-oF 架构,将能替分散式系统带来更低延迟,扩大内存内处理,且 NVMe 不仅仅是逻辑上的协议接口,更是一种可扩充指令标准。这些技术特点受到机器学习(Machine Learning)工程师的青睐,以之建构出更高性能、更深入的神经网络。在机器学习的过程中,计算处理和储存之间需要反复的交换大量数据,且对延迟的要求也非常高。
甚至可以说,机器学习应用是现在 NVMe SCM 最能展现成本效益的方式。对 AI 加速器的需求,带动了对新兴内存的研究。尤其在现今 GPU 计算力发展遥遥领先之下,其他零组件的协调性成为新兴科技发展的短板。还有高速、低延迟等特性,也相当完美的符合诸如 5G 通讯等技术需求,NVMe SCM 因此成为催生新兴科技的关键。
新兴科技共识
所以将 NVMe SCM 纳入系统可以说已成为趋势,令许多厂商趋之若鹜。Dell EMC、IBM、Hitachi、HPE、Fujitsu 与华为等大厂近年来也都纷纷推出了相关的高阶企业储存解决方案。服务器市场已被快速改变,由扩展规模转为追求低延迟,全快闪的产品出货已压过混合阵列。各家厂商甚至也借此推出了基于 AI 的云端化管理系统,透过 NVMe SCM 来有效减轻维运负担。
总而言之,NVMe SCM 不仅是单一硬件产品的进步,更影响了大数据、人工智能、5G、云端生态等技术,促进了业界对于传输规范共识的同时,对现今的资讯系统架构带来变革。当此技术越趋于成熟,就能更快的催化出新兴科技。虽然还有一段相当长的路要走,但或可如此譬喻,NVMe SCM 将会是内存的终局之战。
- First XPoint, then Z-NAND: Oh dear, server-makers. SCM is happening
- Is Storage Class Memory the NVMe Endgame?
- NVMe Unleashing Performance and Storage System Innovation
- Escaping the DRAM price trap: Storage Class Memory, what it is and why it matters
- Enabling Fast, Flexible and Scalable Storage with NVMe and SCM
(首图来源:英特尔)
延伸阅读:
- 新内存技术时代开启,应材发表新内存大量生产技术因应需求
- 英特尔推出 2 代 Xeon 服务器处理器,抢攻 AI、5G 市场而来
- 美光攻第二代 3D Xpoint 内存,采“守株待兔”策略较劲英特尔
- 【电脑科普】记忆力决定电脑的超能力──储存内存