浪潮信息发布“元脑SD200”超节点,面向万亿参数大模型创新设计
北京2025年8月8日 美通社 -- 8月7日,浪潮信息发布面向万亿参数大模型的超节点AI服务器“元脑SD200”。该产品基于浪潮信息创新研发的多主机低延迟内存语义通信架构,以开放系统设计向上扩展支持64路本土GPU芯片。元脑SD200可实现单机内运行超万亿参数大模型,并支持多个领先大模型机内同时运行及多智能体实时协作与按需调用,目前已率先实现商用。在实际评测中,元脑SD200运行DeepSeek R1和Kimi K2等全参模型的64卡整机推理性能实现超线性扩展。
当前,混合专家模型(MoE)的高效架构正在驱动大模型参数规模持续扩展,国内外前沿大模型的参数量快速突破万亿规模,这给算力系统架构提出新的挑战。一方面,模型参数量增加和序列长度增加带来的键值缓存(KV cache)激增,需要智能计算系统具有超大显存空间承载,依靠单芯片或节点的性能提升已难以为继;且其推理过程作为通信敏感型计算,对分布式计算通信延时要求极高,需要构建更大向上扩展(Scale up)高速互连域。另一方面,智能体AI开启多模型协作的新范式,其推理过程需要生成比传统模型多近百倍的数据词元(token),导致计算量激增。
元脑SD200超节点AI服务器是浪潮信息面向万亿参数大模型AI时代而设计,创新研发多主机低延迟内存语义通信架构,基于开放总线交换技术构建,在单机内实现了64路GPU芯片的高速统一互连,成功解决万亿大模型对超大显存空间和超低通信延时的核心需求。在开放架构之上,元脑SD200通过智能总线管理和开放的预填充-解码(Prefill-Decoder)分离推理框架实现软硬件深度协同,智能化管理复杂AI计算任务。
- 在架构层面,元脑SD200基于自主研发的开放总线交换技术首创多主机三维网格系统架构,实现64路本土GPU芯片高速互连;通过创新远端GPU虚拟映射技术,突破多主机交换域统一编址难题,实现显存统一地址空间扩增8倍,单机可以提供最大4TB显存和64TB内存,为万亿参数、超长序列大模型提供充足键值缓存空间。同时,依托百纳秒级超低延迟链路,构建64卡大高速互连域统一原生内存语义通信,实测结果表明,在推理过程常见的小数据包通信场景中,全规约(All Reduce)性能表现优异,显著提升计算与通信效率。
- 在系统层面,根据万亿参数大模型计算、通信需求特征,浪潮信息开发智能总线管理系统,实现超节点64卡全局最优路由的自动创建,支持不同拓扑切换,资源按需切分。对于全规约、全聚集(All Gather)等典型通信算子,开展不同数据量大小的细粒度通信策略设计,如多层级通信机制等,实现通信延时进一步降低。同时依托开放的PD分离框架,支持异步KV Cache高效传输与差异化并行策略,在提升业务服务级别目标的同时保持对多元算力的兼容性,实现计算与通信架构的深度协同优化。
元脑SD200超节点AI服务器通过软硬协同系统创新,成功向上扩展突破芯片性能边界,在大模型场景中展示出优异的性能表现。结合优化的PD分离框架,SD200超节点满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍,满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。
当前,开源模型的飞跃式进步正在加速智能时代的到来,推动研发范式从封闭走向开放协作。同时,随着大模型参数量的持续提升,对算力基础设施的建设提出了更高要求。浪潮信息通过开放系统架构创新,为开源大模型的规模化落地和应用创新提供关键支撑。
- 北京市科学技术协会发布主题MV《无名》,深情致敬首都科技工作者
- 重庆尼依格罗酒店携手莲花跑车 共同演绎云端竞速之旅
- 三一重工荣登《福布斯》全球2000强榜单,获评中国工程机械行业领军企业
- 环旭电子微小化创新研发中心为多样化市场提供SiP双引擎技术平台
- 康诺思腾完成超5亿元人民币融资,进一步推动手术机器人技术应用全球普及
- 米奥兰特:跨境贸易新突破
- IBM陈旭东在山东烟台解读最新中国战略:携手伙伴、深耕区域,共建企业级AI生态
- 拥抱AI+,大华股份大模型亮相中国石油石化企业信息技术交流大会
- 万豪酒店品牌首秀北部湾良港,北海万豪度假酒店正式启航
- Cloudera推出私有链路网络,实现安全、无互联网云连接
- 大象汽车深耕日本市场 布局全国性售后网络
- 申克推出升级版CAB708测量系统
- 【2024 ASCO】亚盛医药四项研究入选,耐立克®治疗SDH缺陷型GIST最新进展获口头报告
- 锐正基因重磅产品和平台亮相2025 ASGCT年会
- 职出众领袖演说夏令营璀璨落幕 绘就青年成长新画卷
- 富士胶片23款产品荣获“2025红点设计奖”
- 设计领航 创新卓越 德国高仪斩获9项2024德国iF设计大奖
- Esaote发布兽用超声仪
- 华秋PCB 2/4/6层板免费打样:首单立减最高400元,工程费直降200元
- 工地上来了“刮腻子”冠军,为何涂料工程施工机器人领跑行业?
- 哥谭市偶像布鲁斯•韦恩启发了 Automobili Pininfarina 推出的超凡脱俗的超级跑车
- QS世界大学排名: 2025年可持续发展
- 世界孤独症日,壹基金蓝色行动倡导支持孤独症群体的社会融合
- 破暗迎光 逆境而上----2025中国特许加盟大会&生活服务业发展大会在京召开
- 阿特拉斯•科普柯工业技术(上海)总经理荣获2024上海市"白玉兰纪念奖"
- 共探新能源车险服务新路径 邦邦汽服亮相“2025年分子保险科技节”
- 德国高仪亮相2024中国国际进口博览会 创新引领变革 共绘美好未来
- 塑银行高质量发展未来 首都银行(中国)全新宣传片正式发布
- Bossard柏中加大在华投资,成立柏中紧固件(广东)有限公司
- 赛莱默亮相上海国际水展 引领水科技创新浪潮
推荐
-
我们时常把创业想得太过简单,认为获得成功轻而易举 我们时常把创业想得太过简单,认为获得成功 财商
-
春节将至,抢票再次成为广大网友关注的热门话题 春节将至,抢票再次成为广大网友关注的热门话 财商
-
供应“安全感”超过红海“危机感”?欧洲天然气价格大跌 虽然冬季极寒天气来临,而且卡塔尔似乎已经暂 财商
-
日股盘中再破34年新高,今年还涨得动吗? 今年日股开局强势,1月5日以来开启连涨行情,日 财商
-
为何娃哈哈纯净水线上会卖断货? 随着网络上关于娃哈哈和农夫山泉之争的持续 财商
-
广东省药监局调研恒昌医药集团,聚焦药品流通产业高质量发展 日前,广东省药品监督管理局党组成员、副 财商
-
娃哈哈这艘商业巨舰将驶向何方,我们试目以待 2月25日,娃哈哈集团在官网发布讣告,娃哈哈创 财商