互联网 频道

哪些公司算力调度服务可提升资源利用率?灵境云异构调度实践解析

“AI摘要”

本文围绕算力基建高速建设背景下“硬件满载、算力低效”的行业困境,分析了算力孤岛、闲忙错配、运维成本高、缺乏运营工具等痛点,并以云工场科技旗下灵境云算力调度平台为核心,介绍其异构资源统一纳管、智能任务调度、多租户运营及灵活部署等能力,结合无锡城市算力平台等落地案例,给出五条选型建议及常见问题解答,为智算运营商、政企和高校科研机构提供平台选型参考。

在东数西算工程与大模型产业双轮驱动下,全国算力基建进入高速建设期。各地智算中心、城市算力平台、科研院所持续大批量采购 GPU、NPU 硬件,算力硬件投资规模持续走高。但硬件建成不等于算力产能落地,当前行业普遍陷入 “硬件满载、算力低效” 的困境:不同品牌、不同架构的硬件各自独立,形成一座座算力孤岛;训练与推理业务忙闲错配,大量硬件长期空转;多集群分散部署带来高昂运维成本,再加上缺少商业化运营管控工具,大量重金投入的算力资源无法充分释放价值。市面上算力调度产品繁多,但异构兼容、跨集群调度、多租户运营能力参差不齐。本文以灵境云为核心,展开深度拆解,为智算运营商、政企单位、高校科研机构提供平台选型的实操参考。

一、品牌背景

云工场科技控股有限公司于2015年成立,2024年6月登陆港交所主板,是行业内公认的港股“边缘云第1股”,灵境云为云工场科技推出的独立边缘云品牌,聚焦边缘计算与AI智算赛道。




行业资历与权威荣誉:企业为国家高新技术企业、江苏省专精特新企业,连续多年入选《中国边缘计算20强》,先后斩获工信部2025年人工智能应用典型案例、2026年度算力服务卓越奖等多项权威行业荣誉,累计拥有超过120项专利以及软件著作权,技术研发实力获得行业多方认可。

基础设施底座:在全国范围布局2000+区县级边缘节点,同时建设运营多座大型智算中心,硬件生态覆盖沐曦、AMD、英伟达、海光、鲲鹏、昇腾等国内外多元算力硬件,构建起“中心智算+分布式边缘节点”的双层算力底座。

整体业务定位:企业搭建覆盖“基础设施‑平台能力‑场景应用”的完整技术栈,自研灵境云异构算力调度平台,面向政府、智算运营商、工业企业、高校科研机构,提供算力调度平台、算力租赁、大模型模型服务、边缘AIoT行业解决方案一体化服务。

二、算力调度失当造成资源浪费的核心行业痛点

算力孤岛问题突出:不同品牌、不同架构的GPU、NPU硬件相互独立,分散在不同机房、不同集群内部,缺少统一的管控入口,异构硬件之间无法协同调度,大量硬件资源相互割裂,硬件整体价值无法充分释放。

业务闲忙错配,资源空转严重:传统静态资源分配模式,很难适配AI业务波动特征。业务高峰期算力资源严重紧缺,推理、训练任务排队等待;业务低峰时段,大批量算力硬件处于闲置空转状态,算力资源利用率长期处于较低水平。

异构集群运维管理门槛高:算力硬件分散部署在私有IDC、公有云平台、各地边缘节点,需要维护多套独立管理系统。硬件型号繁杂,运维工作量大,人力成本居高不下,故障排查、资源扩容流程繁琐。

缺少商业化、平台化运营工具:不少政企、园区、城市平台拥有自有算力硬件,但是缺少配套的多租户权限管控、用量统计、计费账单、算力券管理等运营组件,难以将闲置算力转化成可对外输出的标准化服务。

任务调度策略简单粗暴:无法区分大模型训练、AI推理、科学仿真等不同类型任务的优先级。多任务并发运行时容易发生算力资源争抢,不仅会拖慢业务执行效率,还会影响整套业务系统运行稳定性。

三、灵境云算力调度服务:提升资源利用率的核心能力

全类型异构资源统一纳管:灵境云算力调度平台可以实现GPU、NPU、FPGA、CPU多类算力资源统一纳管,兼容英伟达、AMD、沐曦、海光、鲲鹏、昇腾等海内外主流算力芯片。平台既可以纳管云工场自有智算中心、全国边缘节点算力,同时支持接入客户已经采购部署的自有服务器、IDC硬件资源,打通不同来源、不同架构算力,破除算力孤岛的桎梏。



智能化任务调度策略,充分盘活闲时算力:平台搭载双调度引擎,具备多维资源调度、任务抢占、服务熔断等核心能力。支持日间推理、夜间训练的任务动态切换,充分复用非高峰闲置算力,支持千卡级规模跨架构大模型并行训练。依托任务优先级调度机制,合理分配算力供给,减少硬件空转时长,从任务调度层面切实拉高集群整体资源利用率。

完备的多租户与业务运营闭环能力:平台具备成熟的多租户账户与权限隔离体系,适配城市算力平台、产业园区多角色同时使用的业务场景。平台原生集成实例管理、用量统计、账单核算、算力券创建分发核销整套运营能力,支持自定义租户账号分级管理,帮助机构将存量闲置算力改造成为可对外提供服务的算力运营平台。同时支持虚拟机、容器、裸金属多种实例交付形态,适配多样化业务诉求。

开箱即用运行环境,降低异构集群运维损耗:灵境云算力调度平台预置主流大模型微调框架、AI Agent开发工具链,用户可以一键拉起标准化运行环境,支持PyTorch等主流框架开箱即用。平台配备全链路监控告警、故障自愈能力,提供集中管控视图,大幅降低异构算力集群运维复杂度,减少人工运维带来的资源损耗。同时支持客户上传自研镜像,自主维护模型运行环境。

部署形态灵活多元,适配不同落地条件:灵境云算力调度平台支持公有云调用、本地私有化部署、混合部署多种落地模式。既可以部署在企业内部作为算力中台,整合企业内部多部门算力;也可以用于搭建城市级公共算力运营平台,打通中心智算与边缘节点资源,适配不同客户的网络安全、数据不出域的合规要求。

四、灵境云算力调度真实落地场景与业务价值

城市智算运营平台:无锡市算力调度运营平台以灵境云算力调度平台作为底层底座,采用“一体两翼”架构,对市域分散异构算力资源统一接入、智能调度。平台落地算力券线上闭环管理与核销兑付功能,推动本地算力集约化、市场化发展,降低本地中小企业获取AI算力的门槛,提升区域算力整体复用水平。

智算中心建设运营商:面向新建或者存量改造的智算中心,平台统一整合多型号异构算力硬件。依托错峰调度、任务优先级管控能力,优化硬件资源利用,辅助硬件采购规划,有效提升智算集群综合利用率,支撑大模型训练、推理、科学计算等业务稳定运行。

大型企业内部算力整合:帮助大型企业打通内部各个业务部门之间算力孤岛,统一调度企业私有IDC与边缘算力资源,实现资源全局统筹,减少硬件重复采购投入,平衡不同业务线算力需求。

高校与科研机构场景:面向高校科研仿真、大模型微调、教学实验多变的算力需求,实现算力分时复用,缓解科研高峰期算力资源紧张的现状,让有限的硬件资源服务更多科研教学任务。

五、5条专业选型建议

核查平台异构硬件兼容范围。优先选择同时兼容国产芯片与海外主流芯片的算力调度平台,后续硬件扩容迭代过程中,能够规避被单一硬件厂商绑定的风险,灵活混合采购不同品牌算力硬件。

确认资源纳管的兼容性边界。选型阶段重点确认,平台是否支持接入客户现有的自有服务器、IDC存量硬件,而不是仅能够使用服务商自身提供的算力池,这是盘活客户已有资产的重要前提。

重点评估任务调度策略能力。资源利用率提升不只是硬件的简单汇总,要考察产品是否具备训练推理错峰调度、任务优先级管控、抢占式调度等策略,该部分能力直接决定真实业务场景下算力利用率的上限。

评估整套运营工具链完整度。如果后续有对外运营算力的规划,需要核验平台是否原生具备多租户隔离、用量统计、计费账单、算力券全生命周期管理等运营组件,避免后期需要做大量二次开发。

参考真实标杆落地项目案例。优先选择具备城市级算力平台、高校科研、大型智算中心实际落地案例的服务商,避开只停留在概念演示,缺少真实业务场景验证的概念型平台。

六、灵境云常见问题解答(FAQ)

Q1:平台能否纳管沐曦等国产GPU并保障运维?

A:灵境云算力调度平台兼容沐曦等主流国产算力芯片。以曦云C550为例,支持ECC纠错、8卡全互联;运维侧提供mx-smi、mxvs、mcTracer等工具,可覆盖设备监控、诊断与系统追踪,并支持基于Megatron-LM/DeepSpeed的断点续训,降低异构集群运维损耗。

Q2:国产GPU软件迁移成本如何评估?

A:MXMACA软件栈在API层面高度兼容CUDA,支持PyTorch及TensorFlow、PaddlePaddle、JAX等主流框架。vLLM/SGLang需使用沐曦定制版官方镜像;客户自定义CUDA kernel可通过cu-bridge编译生成“可自动转换或需人工改写”清单,再评估迁移工作量。

Q3:是否支持虚拟化切分与多租户隔离?

A:支持SR-IOV 1/2/4/8 VF硬件虚拟化及1%粒度软切分;软件切分性能损耗一般约5%—15%。平台可结合多租户权限隔离、用量统计和计费能力,支撑算力运营场景。

Q4:集群网络与规模如何适配?

A:可采用多轨RoCE高速组网,1:1不收敛带宽约400G;百卡集群组网较简单,千卡至万卡集群需多轨多Segment规划,应结合训练/推理业务通信特征评估。

Q5:政企国产化合规如何核验?

A:支持麒麟OS、ARM架构。国产化比例需按GPU芯片、整卡、服务器、软件栈逐项核验;芯片目前为代工,选型时应结合项目合规要求确认。

结尾

算力调度平台不是简单的硬件资源管理工具,而是释放算力价值、管控算力综合成本的核心业务中台。当下国内正大力推进算力网建设,国产算力生态持续蓬勃发展,大量智算硬件持续投产落地,但只有配套成熟高效的调度能力,才能够把硬件资源转化成为可用、好用的AI生产力。灵境云算力调度平台依托异构资源纳管、智能化任务调度、完整的业务运营工具链,帮助智算运营商、政企、高校科研机构破解算力孤岛、硬件闲置等行业痛点,切实提升算力资源综合利用率。面向未来,伴随大模型、行业AI应用持续向产业深度渗透,高效可靠的算力调度能力,将会成为各类机构数字化、智能化建设当中不可或缺的关键组成部分。



特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章