积算科技上线赤兔推理引擎服务,创新解锁FP8大模型算力
北京2025年7月30日 美通社 -- 近日,北京积算科技有限公司(以下简称“积算科技”)宣布其算力服务平台上线赤兔推理引擎。积算科技PowerFul-AI应用开发平台与赤兔合作,打造高性价比的模型轻量化部署方案。用户通过远程算力平台预置的模型镜像与AI工具,仅需50%的GPU算力即可解锁大模型推理、企业知识库搭建、智能体开发,加速大模型在智能问答、报告生成、客服助手、智能体等典型行业场景的落地。
赤兔推理引擎由北京清程极智科技有限公司(以下简称“清程极智”)开发,并联合清华大学团队发布开源版本。其核心价值在于,打破了FP8模型原生部署时GPU必须支持FP8精度的要求。通过底层算子优化(如GeMM、MoE的指令级重构)和编译技术创新,赤兔早在今年三月即首次实现在非FP8精度卡上原生运行FP8高精度模型,并确保推理过程几乎零精度损失。
积算科技联合清程极智,完成了赤兔推理引擎在积算科技PowerFul-AI应用开发平台上的验证测试。测试结果表明,赤兔推理引擎在积算科技PowerFul-AI平台上运行稳定、性能表现优异,满足双方兼容性认证的各项标准,能够快速完成DeepSeek、Qwen等大模型推理部署,并支持基于非FP8精度GPU卡实现FP8模型部署,相比于使用BF16精度部署,GPU算力需求减半。以部署DeepSeek-R1-671B为例,原需4台8卡机2560GB显存,现仅需2台8卡机1280GB显存即可满足要求。
积算科技PowerFul-AI平台携手赤兔推理引擎,将为AI大模型应用开发打造“成本减半、零性能损耗”的解决方案,提供构建企业知识库开发、智能体搭建等功能,助力企业用户灵活快速构建大模型通用应用及个性化端到端解决方案。
PowerFul-AI是积算科技的大模型应用落地解决方案,能够为AI大模型落地应用提供高效、易用、安全的端到端开发平台,帮助企业及科研机构高效开发部署AI大模型应用。目前,PowerFul-AI已经全面适配DeepSeek R1、DeepSeek V3等模型。用户只需选择镜像和模型文件,并配置模型所需的算力资源,即可快速完成模型部署,实现DeepSeek的“分钟级”上线。
积算科技诞生于全球生成式AI浪潮,专注于智能算力服务市场,致力于成为中国最具价值的智能算力服务商,聚焦互联网、运营商、高校、新能源汽车等领域的多家头部客户提供算力服务。公司拥有万卡级先进智能算力资源池,提供裸金属、智能算力系统、专属智能算力系统等算力服务产品,适用于大模型训练与推理、算法研究、大数据分析、自动驾驶、智能科学计算等多元场景。其运维和服务团队具备大规模智能算力系统设计建设、大模型开发应用及性能优化能力,可提供全栈大模型应用开发服务支持,并根据客户需求提供灵活服务模式。
- 香港航空庆祝悉尼航线正式启航 为旅客提供更多赴澳航班选择
- 西奥罗尼一线治疗广泛期小细胞肺癌III期临床试验申请获批准
- Shake Shack双店启幕,上海迎来全球首家特色门店
- 迪拜道路交通局(RTA)开放2025年迪拜世界自动驾驶交通大会报名
- 诺和新元2'-FL(2'-岩藻糖基乳糖)HMO(母乳低聚糖) 在中国获批
- 从传统到现代的转型路径-食品餐饮企业如何供应链数字化发展,驱动业务增长
- 中集车辆旗下凌宇汽车、驻马店华骏铸造获评省级"绿色工厂"
- 英轩重工“心服务·全无忧”服务品牌发布,2025年服务万里行再启航
- Doctor's Best多特倍斯618多品类遍地开花 叶黄素品类稳居TOP榜!
- 776MW - 赛拉弗创新赋能云南光伏高质量发展
- 拜耳集团管理委员会主席比尔•安德森于中国发展高层论坛发表演讲
- 法国五月艺术节2025与M+联合呈献开创性跨文化展览"香港赛马会呈献系列:毕加索 -- 与亚洲对话"
- Comviva和AWS合作推出下一代SaaS产品
- 2024FE电动方程式米萨诺站周末双赛上演精彩超车大戏,戏剧反转不断
- 富士瑞必欧与卫材达成合作备忘录
- 特灵科技携手上海交通大学,助力女性STEM人才未来发展
- LISI AUTOMOTIVE 在上海工厂启用罗克韦尔自动化旗下 Plex ERP
- 扬帆逐浪,“和佳能一路向海”记录精彩水上运动瞬间
- Wonderful Indonesia联合品牌合作伙伴致力推广"留住精彩"活动
- SFU被评为加拿大创新和工业应用领域的顶尖大学-世界大学创新排名
- UEG周:新手术联合semaglutide可消除2型糖尿病患者的胰岛素依赖性
- 强强联合!海那边与盈科(深圳)律所达成战略合作,共谱全球移民新篇章
- 美通社推出《智能科技行业媒体概况》白皮书
- DEKRA德凯苏州400KW逆变器实验室正式落成
- SK chemicals的循环再生技术视频在"2024国际商业大奖"中荣获金奖
- 驯鹿生物伊基奥仑赛注射液重症肌无力自免适应症美国IND获批
- 鼎好DH3焕新颜,美的楼宇科技助力中关村地标绿色新生
- 华普宣布参与投资网球世界杯和F1体育赛事
- 全球布局下的区域聚焦:Wingderm®云动光电再度亮相IMCAS亚洲年会
- Menarini在ASCO 2025年会公布最新数据
推荐
-
娃哈哈这艘商业巨舰将驶向何方,我们试目以待 2月25日,娃哈哈集团在官网发布讣告,娃哈哈创 财商
-
我们时常把创业想得太过简单,认为获得成功轻而易举 我们时常把创业想得太过简单,认为获得成功 财商
-
春节将至,抢票再次成为广大网友关注的热门话题 春节将至,抢票再次成为广大网友关注的热门话 财商
-
为何娃哈哈纯净水线上会卖断货? 随着网络上关于娃哈哈和农夫山泉之争的持续 财商
-
广东省药监局调研恒昌医药集团,聚焦药品流通产业高质量发展 日前,广东省药品监督管理局党组成员、副 财商
-
日股盘中再破34年新高,今年还涨得动吗? 今年日股开局强势,1月5日以来开启连涨行情,日 财商
-
供应“安全感”超过红海“危机感”?欧洲天然气价格大跌 虽然冬季极寒天气来临,而且卡塔尔似乎已经暂 财商