全国一体化算力网应用优秀案例集之四 | 打造智算算力网AI开发平台 助力人工智能基础设施发展

2022年以来，“东数西算”工程正式启动，2023年12月，国家数据局等5部门联合印发《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》，加快推动全国一体化算力网建设，赋能经济社会发展。为充分展示全国一体化算力网建设领域取得的应用成效，国家数据局组织开展了“全国一体化算力网应用优秀案例”征集遴选工作，各地方积极响应、踊跃参加。经多轮专家评审，首批发布25个优秀案例。

打造智算算力网AI开发平台

助力人工智能基础设施发展

推荐单位：江苏省数据局

申报单位：中科南京信息高铁研究院

当前，人工智能基础设施存在技术标准不统一、算力使用门槛高等问题。中科南京信息高铁研究院研发智算算力网AI开发平台，统筹纳管异构异属异域的智算资源，实现全局能用、好用。

一是汇聚三异智算算力资源，实现多元算力协同。智算算力网AI开发平台汇聚异构异属异域的三异智算算力资源，通过代理与适配两种并网模式构建一个全局可用的智算算力资源域，基于协同调度服务，实现智算算力资源的全局共享，构建了南京、昆山与郑州三地的智算算力网。

图1 智算中心集群图

二是构建全流程AI能力体系，降低智算算力使用门槛。构建覆盖AI算法开发全生命周期的AI能力，提供6种AI开发框架、3种分布式训练加速框架、4种分布式并行训练策略以及弹性高性能推理等能力，提高大模型开发效率，适配4种底层智算异构资源，提供统一的智算算力网页。

三是创新平台运营模式，减少用户算力使用成本。通过构建融合运营模式整合多方运营平台，实现智算资源池统一运营，将账单管理、资源规格管理等业务模块进行统一管理。平台上线后，用户算力月度成本从10021.26元/P降至6062.79元/P，降幅达39.5%，与同类平台用户月度平均费用相比成本降低50.96%。

图2 大模型应用案例示图

目前，智算算力网AI开发平台累计落地7个领域的50多个科研行业大模型，如翻译大模型“百聆”，抗体结构预测大模型，医疗大语言模型等，以“三异四入”模式，实现3个算力中心的“三异”算力并网，提供覆盖5个园区、15家重点企业、3所高校及200户家庭算力终端的“四入”服务。