浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案

网易科技报道   2023-08-25 13:17:25


(相关资料图)

【网易科技8月25日报道】近日,浪潮信息正式发布大模型智算软件栈 OGAI。OGAI (Open GenAI Infra)“元脑生智”,是为大模型业务提供AI算力系统环境部署、算力调度保障及模型开发管理能力的全栈全流程的智算软件栈。

据介绍,OGAI由5层架构组成,从L0到L4分别对应基础设施层的智算中心OS、系统环境层的PODsys、调度平台层的AIStation、模型工具层的YLink和多模纳管层的MModel。

记者获悉,L0层智算中心OS为面向大模型算力服务的智能算力运管平台,满足多租户以裸金属为主的弹性AI算力运管需求;L1层PODsys则为开源、兼容、易用的智算集群系统环境部署方案;L2层AIStation是面向大模型开发的商业化人工智能算力调度平台;L3层YLink是面向大模型数据治理、预训练、微调的工具链;L4层MModel是提供多模型接入、服务、评测等功能的纳管平台。(江淼)