
AMD最新销售策略显示,企业在购置全新Epyc服务器并搭配Mext软件许可后,仅需配置一半容量的DRAM,即可实现高达99%的性能表现。
这一突破得益于AI模型的应用。Mext能在操作系统或应用程序察觉需求前,智能地将内存页加载至更廉价的NVMe存储中,或在闲置时将其移出。该机制类似传统SWAP交换空间或Windows页面文件,但效率更为显著。
AMD于今年6月收购了该项技术。AMD企业开发高级副总裁、Mext前首席执行官Gary Smerdon指出,通过以闪存替代昂贵的RDIMM(注册双列直插内存模块),企业服务器成本最多可降低83%。他透露,在目前已部署该软件的145个系统中,客户已避免约500万美元的DRAM采购支出。
AI重构内存管理逻辑
Smerdon解释称,即便在内存利用率显示为95%的高负载系统中,仍有大量内存页未被活跃使用。引用Meta的研究数据,50%至80%的内存页在过去五分钟甚至更长时间内未被访问。“对于Epyc处理器而言,五分钟是一段漫长的时间。”
Mext的目标正是将这些非活跃内存页卸载至闪存。尽管闪存每比特价格低50倍、功耗低30倍,但其速度比DRAM慢500倍。传统观念中,磁盘交换会严重损害应用性能并导致服务等级协议(SLA)违约,因此常被规避。
为确保Mext有效运行,系统必须在内存页被需要前将其重新加载回DRAM。Smerdon表示:“我们利用AI监控系统,主动将页面推回DRAM,从应用或操作系统视角看,它们似乎始终存在于内存中。”换言之,Mext透明地让闪存呈现出DRAM的特性。
“与其为基于Epyc的服务器购买2TB DRAM,用户可仅购买1TB,其余1TB由Mext通过闪存提供。”Smerdon称。
为实现这一目标,AMD Mext采用多种机器学习算法。其核心模型是一种Transformer衍生模型,类似于ChatGPT或Claude,但预测对象并非文本中的下一个单词,而是下一个所需的内存页面。Smerdon强调,只要页面在被需要前位于DRAM中,其加载顺序并不关键。
由于准确预测内存访问模式极具挑战,预训练模型并不切实际。相反,Mext利用单个Epyc核心在“不到一秒内”完成模型初始训练,随后随时间推移不断细化与重训,直至能精准预测页面需求。所有训练均在CPU核心上完成,无需GPU支持,这意味着几乎所有Epyc客户均可使用该平台。
值得注意的是,在虚拟化环境中,该软件要求每个虚拟机(VM)或VPC占用一个核心,开销随虚拟化程度增加而上升;容器运行时预计不受此限。AMD方面尚未就此提供进一步澄清。
性能损耗与成本权衡
AMD数据显示,该技术在实际应用中效果显著。初期目标受众为电子设计自动化(EDA)和内容创作等内存密集型应用,目前已扩展至数据库和代理式AI管道等对延迟敏感的场景。
“当内存页面处于冷状态时,将其推送至闪存对性能几乎无影响。”Smerdon称。但他也承认,具体性能损失取决于应用程序类型及卸载至闪存的内存比例。
在与Synopsys PrimeTime EDA套件的测试中,使用Mext将一半内存卸载至闪存后,系统仍保持DRAM基准性能的95%。而在AMD内部测试中,当DRAM占比25%、闪存占比75%时,性能降至基准线的80%。
EDA工具虽极度消耗内存,但内核瞬时处理数据量通常仅为兆字节级别,这也是Epyc X系列芯片在EDA领域广受欢迎,以及Mext首选该领域切入的原因。在其他场景如Apache Spark中,即使将一半DRAM替换为闪存,系统仍能维持99%的性能表现。
尽管存在轻微性能妥协,但在AI数据中心建设导致内存供应紧张的背景下,AMD赌定客户愿意以少量性能换取显著的DRAM成本节省。
目前,AMD正致力于将Mext整合至其企业产品组合。该软件将专用于AMD硬件,并通过OEM合作伙伴以许可证形式出售。Linux系统只需安装内核驱动程序即可启用,AMD还提供独立的RAM View应用程序,协助企业识别适合启用该功能的系统与负载。
AMD表示,Mext推广正处于第一阶段,即与HPE等OEM厂商合作,确保系统符合“Mext就绪”标准。第二阶段计划开始销售软件许可证,并出货预装RAM View的Epyc平台。