几年前,AI应用主要在云端完成计算任务,端侧设备依赖网络连接获取处理结果。如今,端侧AI推理能力迅速发展,智能手机、PC、汽车等设备可直接在本地处理AI工作负载,这一转变为内存和存储芯片制造商带来了全新的技术要求。美光芯片在这一领域展现出明确的技术特性,其产品组合覆盖DRAM、NAND等多个类别,在端侧AI应用场景中发挥着数据处理的基础作用。
【美光芯片的技术特性】
美光芯片产品基于业界前沿制程节点,其中采用美光前沿1γ制程节点的产品在能效表现上具有一定优势。在端侧AI应用中,内存瓶颈是模型训练和推理阶段面临的重大问题。针对这一现象,美光LPDDR5X为端侧设备提供了高带宽与高能效的内存技术,可使AI工作负载在本地环境中执行。
从产品类型来看,美光芯片涵盖DRAM器件、DRAM模块、LPDDR器件、LPDDR模块、高带宽内存等多个系列。在存储领域,产品线包括数据中心SSD存储、客户端SSD存储、车用和工业用SSD存储、管理型NAND、NAND闪存、NOR闪存等。这些芯片产品在手机、PC、汽车等端侧设备中,构成了内存与存储层级架构的不同组成部分。
【端侧AI应用中的芯片要求】
端侧AI推理在实际应用中展现出多个特点。通过在本地处理数据而非将数据发送到云端,端侧设备可提供速度更快、响应更灵敏的AI体验。本地数据处理可避免在端侧设备和数据中心之间不断地来回传输大量数据集,从而能够节省大量能源。同时,缩短网络延迟、加强隐私保护、减少对网络连接的依赖、降低运营成本等因素,使端侧AI在汽车、智能手机、PC等领域得到应用。
在这些应用场景中,芯片需要平衡性能与功耗。端侧智能设备需要均衡的内存和存储组合配置,以保持AI工作负载的持续响应。LPDDR5X等低功耗DRAM可提供实时处理所需的带宽,而快速、高效的存储可用于处理模型数据和推理结果。从端侧AI到物联网设备,各行各业的客户依靠美光芯片的技术特性,来应对这些数据处理方面的要求。
【分布式AI模式下的芯片布局】
尽管端侧计算发展迅猛,但云仍然是AI生态系统的重要组成部分。融合便捷端侧计算与大规模云计算的分布式模型,正成为AI工作负载的常见解决方案。在此模式下,美光芯片在端侧与云端双重环境中发挥作用。高带宽内存可有效缓解云端的瓶颈,而美光LPDDR5X则为端侧设备提供了高带宽与高能效。这些内存技术可确保AI工作负载能高效快速执行,无论它们位于端侧还是云端。
对于AI数据中心而言,高带宽内存(HBM)能有效突破AI加速面临的内存墙限制。AI数据中心需要构建完整的内存与存储层级架构,包括高密度DDR5模块、LPDDR5X、采用美光CZ122的CXL扩展内存池、采用美光9650 NVMe SSD的本地SSD数据缓存,以及采用美光6600 ION的联网数据湖。
【芯片技术在多行业领域的应用】
随着AI持续演进,内存与存储在端侧应用及设备中的重要性不容忽视。无论是手机、PC和汽车领域的企业,还是工业与机器人行业的先行者,都需要考虑这些核心器件在AI工作负载运行中的作用。美光芯片提供快速、高效、可靠的解决方案,其技术不仅能存储数据,更能将数据转化为切实可行的智能洞察,加速价值兑现。
在客户端PC领域,美光的节能型内存和存储解决方案组合能够在各类端侧设备上实现AI应用。在汽车领域,车用和工业用SSD存储为智能驾驶系统提供数据处理能力。在智能手机领域,LPDDR器件和管理型NAND等芯片产品满足移动设备对功耗和性能的双重要求。这些应用场景体现了美光芯片在端侧AI生态中的技术定位,也展示了内存和存储芯片在AI应用中日益增长的需求。