探索生活本源
传递多元价值

山东移动依托“芯合”平台,DeepSeek模型高效部署助力行业发展 山东移动赋能,DeepSeek模型部署为各行业挖掘数据价值

本文聚焦山东移动在人工智能国产化进程加速背景下,对DeepSeek模型的部署情况。介绍了其借助“芯合”算力原生平台等完成模型部署,解决了部署过程中的诸多问题,体现了技术实力,还展望了未来在大模型领域的发展方向。

在当下人工智能国产化进程不断加速的大背景之下,一款名为DeepSeek的模型凭借其卓越非凡的推理能力,迅速引发了广泛的热议。这款模型以其强大的性能,成为了行业内备受瞩目的焦点。而山东移动敏锐地捕捉到了这一发展机遇,展现出了前瞻性的战略眼光。

山东移动依托中移齐鲁创新院,精心组建了一支“芯片 – 框架 – 模型”的全栈攻关团队。该团队联合中国移动研究院,充分借助“芯合”算力原生平台所具备的跨架构迁移能力,成功完成了DeepSeek – R1 – 671B完整模型的部署工作。这一部署意义重大,有力地支撑了青岛大数据局、中车集团、海尔集团等12项业务需求的顺利落地。

更为值得一提的是,山东移动通过自研的自动化部署工具,对模型部署时间进行了大幅优化。原本需要30小时才能完成的满血版模型部署,如今仅需4小时即可完成,效率提升了惊人的650%。甚至部分版本模型的部署时间被压缩至分钟级,这一成果无疑是对其技术实力的有力证明。“芯合”算力原生平台的跨架构迁移能力发挥了关键作用,它有效解决了AI应用与底层硬件深度绑定、难以跨架构部署迁移等长期困扰行业的难题。同时,自研的AI技术平台可支持DeepSeek全尺寸大模型接入,进一步大幅提高了模型部署与交付的效率。

在昇腾910B裸金属环境下进行千亿参数模型部署时,山东移动面临着诸多严峻的挑战。然而,山东移动凭借全自动部署工具、预热文件系统缓存技术、构建大模型部署资源库、算力原生架构迁移等一系列先进的能力,成功攻克了这些难题。有效解决了模型部署效率低、权重文件传输速率慢、模型精度转换效率低、国产算力推理架构资源少等问题。具体来看,模型部署时间减少了80%,权重文件传输带宽达到了20Gb/s,模型精度转换效率提升了75%,还有效丰富了国产算力架构资源。

为了更好地服务用户,山东移动研发了全流程标准化交付组件,搭建了可视化UI界面。通过这个界面,用户可以方便地使用、管理部署的模型服务及知识库。同时,山东移动搭建了性能检测平台,能够对模型服务性能指标进行实时监控,确保模型服务的稳定运行。此外,还构建了One API平台,实现了API安全管理,从而高效地完成了模型部署任务。

山东移动实现DeepSeek的高效部署,充分体现了其在大模型应用方面雄厚的技术实力。各行业在体验DeepSeek – R1 – 671B带来的强大推理能力的同时,能够基于“深度思考”模式,进一步挖掘工业数据价值,实现对复杂问题的深层次解析与优化。这为各行各业在各个领域探索更多的可能性提供了有力的支持。

展望未来,山东移动表示将继续深化与各方的合作。一方面,不断提升“芯合”算力原生平台的跨架构迁移能力;另一方面,进一步针对DeepSeek的部署与配置进行研发优化,以更好地支撑DeepSeek等大模型跨架构迁移和高效运行。山东移动立志努力打造“最会用AI的公司”,为人工智能的发展贡献更多的力量。

本文围绕山东移动在人工智能国产化背景下对DeepSeek模型的部署展开。山东移动通过组建团队、利用平台和自研工具等方式,高效完成模型部署,解决了部署中的诸多难题,体现了其技术实力。各行业可借模型优势挖掘数据价值。未来,山东移动将继续深化合作,优化技术,推动大模型发展。

赞(0)
未经允许不得转载:果源资讯 » 山东移动依托“芯合”平台,DeepSeek模型高效部署助力行业发展 山东移动赋能,DeepSeek模型部署为各行业挖掘数据价值

评论 抢沙发