华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署
最新 2 月 6 日消息,华为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。
据介绍,华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台,提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片,通过推理框架优化和 MoE 存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下:
灵活部署:ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型,开发者可通过 ModelEngine 实现“一键部署”,省去硬件选型、兼容性验证和环境配置等繁琐步骤,大幅降低企业 AI 应用门槛。此外,ModelEngine 通过其高度的开放性和模块化设计,极大地缩短了 DeepSeek 的本地部署时间。
企业级稳定性:ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性,支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后,运维成本降低 42%。
另外,华为官方表示,DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。
最新注:ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。
相关文章
- OpenAI 周活跃用户达 4 亿,高管称用户“口口相传”发现
- Figure AI 人形机器人多模态能力升级:“听懂”语音指令
- 李开复 AI 公司零一万物被曝多处变动:计划拆分数字人业
- Spotify 启动 AI 配音有声书服务,29 种语言可供选择
- OpenAI GPT-4.5 有望下周发布,GPT-5 被曝将与 o3 大一
- 英伟达推出 Signs 平台:AI 突破美式手语学习,助力连接无
- 传字节大模型团队架构调整,知情人士称吴永辉和朱文佳都
- 清华系团队 DeepSeek 版多模态生物医药大模型 BioMedG
- DeepSeek 还在发力:官宣下周陆续开源 5 个代码库,毫无保
- 报告称 DeepSeek App 上线一个月下载量破亿:几乎没花钱