软通动力受邀参加"昇思AI框架及大模型技术论坛" 共探AI框架未来发展
北京2024年5月13日 /美通社/ -- 5月11日,鲲鹏昇腾开发者大会2024期间,华为举办"昇思AI框架及大模型技术论坛",软通动力数字基础设施与集成事业部总经理谢睿受邀出席、软通动力数字基础设施与集成事业部技术总监单继岭发表《基于昇思Mind Spore,软通动力赋能客户应用与实践》主题分享,全方位展示基于AI框架技术的原生应用及客户实践。
会上,单继岭介绍了软通动力在人工智能领域的技术能力,以及结合华为MindSpore框架为客户带来创新的应用场景等内容。基于软通AI训推一体化平台,输出标准模型迁移流程,从而帮助企业实现大模型的"最后一公里",推动各行业领域数字化转型。
软通AI训推一体化平台
软通AI训推一体化平台支持大规模集群计算环境下NPU/GPU异构计算资源按需、高效、自动调度,可为客户提供数据中心、开发中心、训练中心、模型中心、服务中心等一站式服务能力。平台基于MindSpore等多种计算框架和算法,内置大语言、图文、多模态大模型,叠加行业应用,能够加速大模型落地赋能业务,帮助企业和客户完成国产化、数字化、智能化的转型升级。目前,软通AI训推一体化平台已覆盖央国企、金融、教育等行业,打造多个Offering服务不同客户,助力用户快速实现大模型场景训练/推理"最后一公里"。
在央国企领域,基于司库应用,打造司库一体化产品,实现业财深度融合,在客户实际落地过程中,帮助客户对现有业务系统、管理模式改造升级,解决业务人工成本高、效率低等问题,帮助客户构筑数字化生产力堡垒,在集团建设可复用的业务及数据能力。
在教育领域,软通AI训推一体化平台基于AI硬件底座及通用大模型本地私有化部署,打造数字经济AI分析模型助手,实现自动批量提取经济新闻、热点、事件等关键信息并导出提取结果,可快速构建系统化数据库,并通过模拟人工操作以实现流程自动化,显著提升科研效率。
基于MindSpore模型迁移全流程
1 模型权重转换:模型分析与准备、权重转换
2 模型迁移:网络迁移开发、精度和性能调试
3 推理和训练代码迁移:单卡/多卡在线推理+精度验证、单卡/多卡finetune/peft +精度验证、单卡/多卡预训练 +精度验证等
4 模型精度对齐和模型测评:网络结构对比、网络正向结果对比、网络loss结果对比、基于开源数据集模型评测分数对比等。
未来,软通动力将携手华为,依托MindSpore框架,为客户打造更加优质的人工智能解决方案,不断提升在AI技术领域的服务能力,共同促进AI技术的进步和广泛应用。
- 2024你爱你贵州新概念新型材料公司负氧离子黄晶板全屋整装赋予空间灵动之意
- 赵何娟:钛媒体正在内测财经数据大模型系列产品
- 米兰设计周|瑞族V-ZUG于时间中探索物质之美,致敬111周年
- SGS出席广交会国际市场开拓分享会 共话全球市场战略新机遇
- 上车饺子下车面!看喜家德用水饺传递年味
- 尚晋国际公布2023年全年业绩
- 坎帕里重返戛纳电影节庆祝和支持电影制作,启动了 "我们是电影院" 活动
- 致敬"她"力量:玩具反斗城携手美泰芭比,玩出无限可能
- zuMedia Inc. 推出开创性全新广告和广播平台,旨在利用广告收入来推动财富新平衡
- Media OutReach Newswire推出美国新闻稿发布网络
- 星凡科技:引领AI革新,助力算力产业与GDP齐飞跃
- IT/OT融合所带来的安全风险对北亚地区的工业4.0愿景构成威胁
- 全新旗舰Xiaomi 14 Series强势登陆香港 支援Xiaomi HyperOS
- 中国电信亮相MWC 2024
- 科学合理补充营养,让孕育有"备"而来
- 欧健在摩纳哥举行的AMWC 2024上大放异彩,陈革成教授和Roni Moya教授担任学院的干细胞演讲者
- 迈威生物即将亮相第 14 届 World ADC 大会
- 百年奢华家电Scholtes萧泰斯丨诞生于法国的极致品质
- 为世界绽放更多笑容 富士胶片呵护女性健康
- 全真光学变色镜片获TÜV莱茵China-mark及Quality-mark认证证书