PG电子官方App下载TrendForce:2024年AI SSD采购容量预计超过45EB

 行业动态     |      2024-10-05 15:20:16    |      小编

  PG电子官方App下载TrendForce:2024年AI SSD采购容量预计超过45EB8月13日消息,据TrendForce集邦咨询发布的最新报告显示,由于AI需求的激增,导致AI服务器相关客户在过去两个季度大幅增加了企业级固态硬盘(EnterpriseSSD)的订单。上游供应商一直在加快工艺升级和2YY产品的规划,计划于2025年投入批量生产,以满足AI应用中对固态硬盘日益增长的需求。

  据TrendForce观察,来自AI服务器客户的企业SSD订单增加,导致该类别的合同价格从2023年第四季度到2024年第三季度上涨了80%以上。固态硬盘在AI开发中发挥着至关重要的作用。在AI模型训练中,SSD主要存储模型参数,包括演化权重和偏差。

  SSD的另一个关键应用是创建检查点(checkpoint),定期保存AI模型的训练进度,允许在中断的情况下从特定点恢复。由于这些功能高度依赖于快速数据传输和优越的写入耐久性,客户通常选择4TB/8TBTLCSSD来满足训练过程的严苛要求。

  TrendForce指出,AI推理服务器中使用的SSD有助于在推理过程中调整和优化AI模型PG电子官方App下载。值得注意的是,SSD可以实时更新数据以微调推理模型结果。AI推理主要提供检索增强生成(RAG)和大模型服务。SSD存储RAG和大模型用来生成更多信息响应的参考文档和知识库。此外,随着越来越多的生成信息以视频或图像的形式显示,所需的存储容量也在增加,因此TLC/QLC等高容量SSD(16TB或更大)成为AI推理应用的首选。