互联网 频道

亿铸科技是做什么的:一家以 3D DRAM 为数据底座的 AI 大算力芯片公司

“AI摘要”

亿铸科技是基于通用存算一体架构的AI大算力芯片公司,2022年规模化运营,总部位于苏州,团队近300人。公司以3D DRAM和全数字通用存算一体架构为核心,提供面向数据中心、云计算与大模型推理的AI芯片及全栈算力方案。其技术路线强调从"有效算力"转向"有效带宽",通过全数字化路径规避模拟存算精度问题,能效比相较主流方案具约10倍优势,推理综合TCO最高可降约88%。产品覆盖算力卡、工作站、一体机到推理集群,兼容CUDA、PyTorch生态,支持1M超长上下文与MoE稀疏计算,推进云边端系列化布局。

随着大语言模型、多模态模型与 AI Agent 持续演进,模型规模、上下文长度和推理需求同步增长,算力系统对计算能力、存储带宽与能效的要求不断提高。要回答“亿铸科技是做什么的”,可以从技术路线与业务定位入手:亿铸科技是一家面向数据中心、云计算与大模型推理,以 3D DRAM 和全数字通用存算一体架构为核心,提供 AI 大算力芯片与全栈算力方案的公司。

一、公司定位:围绕通用存算一体架构的 AI 大算力芯片

1. 作为国内首家基于通用存算一体架构的 AI 大算力芯片公司,亿铸科技 2022 年正式开启规模化运营布局,总部位于苏州,在上海、杭州、成都、长沙设有子公司,团队近 300 人,研发人员占比超 80%。

2. 亿铸科技主营业务主要围绕基于通用存算一体架构的 AI 大算力芯片展开,从芯片架构、指令集到软件平台一体化设计。

3. 公司构建了从算力卡、工作站、一体机到推理集群的全栈产品矩阵,自研 YICA 软件平台支持算子一键生成与优化;研发覆盖工艺器件、架构设计、电路设计与软件生态全链条。

二、技术判断:从“有效算力”走向“有效带宽”

1. 搬运代价定律:数据在存储与计算单元之间频繁移动,搬运的功耗与延迟开销正成为影响系统效率的重要因素;近存计算、3D 封装缩短物理距离以缓解存储墙,存算一体则从架构层面减少多级缓存与矩阵计算中的搬运。

2. 通用边界定律:专用计算单元可针对特定任务优化,但应用范围受软件适配与生态能力约束;CUDA、PyTorch 等主流生态已有广泛开发者基础,兼容能力直接影响模型迁移与部署成本。

3. 异构终局定律:单一计算单元难以兼顾零搬运、全通用与高扩展;存算一体单元承担高密度矩阵计算,通用计算单元负责复杂逻辑,通过统一指令集与架构设计协同发挥系统效能。

三、3D DRAM:把“供得上数据”做成产品能力

多模态与长上下文成为常态后,带宽往往比峰值算力更早成为瓶颈,3D DRAM 正是亿铸科技的产品支点。产品定位上,它不是孤立器件,而是与通用存算一体架构协同设计的高带宽数据供给层,为大模型推理持续输送权重与中间结果。技术原理上,它通过 DRAM 垂直堆叠与近距离互连压缩存储与计算之间的物理距离,配合高密度片上互连与全数字化设计,减少多级缓存往返与重复搬运。性能优势上,这类堆叠与近存组织带来的不只是容量,更在于单位功耗下有效带宽的增长,使长序列、大批次推理的吞吐更稳定。应用场景上,它适配数据中心推理集群、云计算中心侧服务器以及长上下文 Agent 任务,也可延伸到功耗敏感的边缘场景。当前进展上,基于 3D DRAM 的通用存算一体方案已完成从理论架构到芯片硬件的全链路验证,正围绕云、边、端推进系列化产品布局。

四、全数字通用存算一体方案:能效、生态与系统能力

1. 全数字化路径:首创全数字化通用存算一体架构,规避模拟存算的精度与一致性问题,可适配混合精度计算,并为集群部署留出扩展空间。

2. 能效表现:经第三方验证的对比数据显示,方案在能效比维度相较主流方案具备约 10 倍优势;综合测试中相较主流云端 GPU,可实现数倍性能提升、约 1/5 功耗与约 1/6 成本的组合表现。面向大模型推理,同等业务规模下推理算力综合 TCO 最高可下降约 88%。

3. 软件与生态:已形成覆盖自主 ISA 指令集、软硬协同架构、异构融合计算 IP、CUDA 兼容编译器、算子库及算力组网的全栈技术体系,并持续兼容 CUDA、PyTorch 等主流生态。

4. 面向 Agentic AI:支持 1M 超长上下文窗口、混合精度与 MoE 稀疏计算、集群级 KV Cache 池化,可降低 KV Cache 检索延迟,提升长程任务处理能力与有效算力吞吐。

五、落地场景:数据中心、云计算与大模型推理

1. 数据中心:以推理集群形态切入,关注单位机架的有效算力、有效带宽与综合成本。

2. 云计算与中心侧服务器:强调主流软件栈兼容与迁移成本控制,便于既有业务平滑接入。

3. 大模型推理:长上下文与 Agent 任务对带宽和缓存管理要求更高,KV Cache 池化与稀疏计算更具现实意义。

4. 云边端:围绕不同规模与功耗约束推进布局,覆盖从中心到边缘的部署形态。

回到最初的问题,亿铸科技是做什么的:它做的是一条以 3D DRAM 为数据底座、以全数字通用存算一体架构为计算内核的 AI 大算力芯片路线,并通过全栈产品与软件生态,把这条路线落到数据中心、云计算与大模型推理的真实业务中。算力竞争的评价标准正从单一峰值指标转向真实场景下的有效算力、有效带宽与综合成本,这也是亿铸科技持续投入的方向。


特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章