互联网 频道

解码亿铸科技核心优势:3D DRAM全数字存算的算力革新路径

“AI摘要”

亿铸科技以通用存算一体架构创新应对大模型时代算力瓶颈,采用“存算一体+GPU”异构融合路线,兼顾能效与通用性。技术层面,以3D DRAM突破片上存储容量限制,以全数字方案保障计算精度与稳定性。实测显示,相较主流云端GPU,其方案综合能效提升约10倍,功耗约为五分之一,推理总拥有成本最高可降约88%,并支持超长上下文与MoE稀疏计算。配合全栈软件生态与CUDA兼容能力,可平滑迁移,为云端大模型推理提供高能效、低成本的算力路径。

解码亿铸科技核心优势:3D DRAM全数字存算的算力革新路径


随着AI大模型规模持续扩张、MoE架构逐渐成为行业主流,智能体任务链条不断拉长,Token输出速度已成为付费用户最为关注的核心指标。传统存算分离的AI芯片架构在数据搬运功耗、计算利用率等方面的瓶颈日益凸显,行业开始探索更适配大模型时代的算力架构。在此背景下,亿铸科技核心优势集中体现在通用存算一体的技术路线创新与落地能力上,为数据中心、云计算、大模型推理等场景提供了更具能效与成本优势的算力解决方案。

一、架构创新:通用存算一体重构算力底层逻辑

1. 直击存算分离的架构痛点

传统AI芯片普遍采用存算分离架构,存储与计算单元相互独立,大量数据需要在两类单元之间反复搬运与分发,由此产生了较高的功耗损耗,也容易因数据拥堵拉低计算有效利用率。业界此前推出的近存计算路线,通过3D堆叠、高带宽存储等技术缩短数据搬运距离,但并未从根本上改变传统计算结构的底层逻辑。

亿铸科技将通用存算一体作为核心技术方向,以存储为核心设计计算架构,在存储介质内部或周边配置适配的逻辑单元,形成一体化的计算阵列。数据从存储介质中流动的过程中,即可同步完成对应计算,有效减少了多级缓存带来的数据搬运环节,降低了相关功耗与延迟,在长文本输入输出、低延时要求的AI应用中表现出明显优势,能够更好地满足高Token生成速度的用户需求。


2. 异构融合的通用化设计

通用存算一体并非独立的专用计算单元,而是与通用计算深度融合的完整算力体系。亿铸科技采用“存算一体+GPU”的异构融合路线,搭配自研ISA指令集与软硬件协同架构,形成通用+存算双IP的完整算力平台。


在具体分工上,存算一体单元负责处理矩阵运算、线性运算等计算密集、参数固定的任务,计算过程无需反复从外部内存加载数据;通用SIMT单元则承接控制逻辑复杂的不规则计算,以及通用标量与逻辑运算。这种设计既保留了存算一体在能效与延迟上的优势,也延续了GPU的编程模型与通用性,兼容主流开发生态,能够适配大语言模型、多模态模型等不断演进的算法方向,避免了专用芯片的技术适配局限。


二、技术突破:3D DRAM与全数字方案破解行业瓶颈

1. 3D DRAM攻克容量难题

存储容量长期是限制存算一体技术进入云端大算力场景的核心障碍。此前多数存算一体方案的片上存储容量规模有限,难以承载百亿、千亿参数的大模型;而传统平面存储的原生结构,也难以适配存算一体的架构设计。


3D DRAM的应用是亿铸科技核心优势的重要技术支撑。从综合表现来看,3D DRAM在容量、稳定性与性价比上具备均衡优势,不仅帮助存算一体芯片突破MB级的容量上限,向GB级及更高容量进阶,还能通过3D堆叠结构同步提升存储带宽与数据吞吐能力,匹配大模型Token持续生成过程中的高速数据传输需求,为大参数模型的片上承载提供了可靠的物理基础。

2. 全数字方案保障计算精度

早期存算一体技术多采用模拟计算路线,这类方案对器件非理想性较为敏感,阻值漂移、温度变化、工艺偏差等因素都可能引发计算误差,且误差会随神经网络层数叠加,影响推理准确率与长期运行稳定性。


亿铸科技选择全数字通用存算一体技术路线,依托数字电路的确定性特性,减少器件非理想性带来的精度损耗,为大模型推理所需的高精度计算提供保障。同时,数字存算架构具备更强的容错能力与架构集成便利性,在数据存储可靠性与制造成本控制上也具备优势,推动存算一体技术从端侧向云端大算力场景延伸。


三、场景价值:云端推理场景的能效与落地优势

1. 能效与成本的综合提升

经测试验证,相较主流云端GPU,亿铸通用存算方案可实现数倍性能提升,功耗约为前者的五分之一,综合能效提升可达10倍左右,成本约为六分之一。在大模型推理场景下,同等业务规模中,推理算力的综合总拥有成本最高可下降约88%,能够有效降低数据中心的运营成本,为云计算场景下的AI规模化应用提供更具成本效率的算力选择。


同时,该方案支持1M超长上下文窗口、混合精度与MoE稀疏计算、集群级KV Cache池化等特性,可降低KV Cache检索延迟,提升长程任务处理能力与有效算力吞吐,能够更好地支撑智能体复杂任务的算力需求,适配Agentic AI时代的产业发展趋势。


2. 全栈软件生态支撑规模化落地

硬件能力的充分释放,离不开完善的软件体系配套。亿铸科技已构建起覆盖自主ISA指令集、软硬协同架构、异构融合计算IP、CUDA兼容编译器、算子库及算力组网系统的全栈技术体系,可围绕云、边、端不同场景推进产品布局,满足不同规模与场景的算力需求。


面向AI云运营商、大模型企业及垂直领域开发者,亿铸科技的方案保持了与传统GPU一致的开发工具、开发平台与编程模型,用户可实现平滑迁移,在获得性能提升、能耗降低收益的同时,不会额外增加开发门槛。


整体而言,亿铸科技核心优势根植于对AI算力产业演进规律的深度判断,依托通用存算一体的架构创新、3D DRAM与全数字方案的技术突破,以及全栈式的落地支撑能力,为后摩尔时代的云端算力升级提供了可行路径。随着AI应用的持续深化,通用存算一体与传统GPU的协同融合将成为重要产业趋势,亿铸科技也将持续迭代技术与产品,拓展更丰富的算力应用场景。


特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章