只需这4步 华为ModelEngine支持DeepSeek全系列本地部署

快科技2月6日消息，华为ModelEngine是大模型训练、推理和应用开发的AI平台，提供从数据预处理到模型训练、优化及部署的一站式服务。t9v28资讯网——每日最新资讯28at.com

华为官方表示，ModelEngine现已全面支持DeepSeek系列模型R1&V3 671B以及蒸馏系列模型，开发者可通过ModelEngine实现“一键部署”。t9v28资讯网——每日最新资讯28at.com

此举省去硬件选型、兼容性验证和环境配置等繁琐步骤，大幅降低企业AI应用门槛。t9v28资讯网——每日最新资讯28at.com

此外华为还表示，ModelEngine通过其高度的开放性和模块化设计，极大地缩短了DeepSeek的本地部署时间。t9v28资讯网——每日最新资讯28at.com

下面以DeepSeek-R1为例，基于ModelEngine 3步快速完成部署模型t9v28资讯网——每日最新资讯28at.com

1、登录ModelEngine模型管理页面，上传DeepSeek-R1 FP8权重，然后进行模型权重格式转换，将FP8精度模型权重转换为BF16精度模型权重；t9v28资讯网——每日最新资讯28at.com

t9v28资讯网——每日最新资讯28at.com

2、在模型服务页面，选择BF16精度的模型权重版本，下发推理服务，启动任务部署；t9v28资讯网——每日最新资讯28at.com

t9v28资讯网——每日最新资讯28at.com

3、ModelEngine使用MindIE推理框架启动DeepSeek-R1推理服务后，支持OpenAI API 调用风格的推理服务接口和访问方式；t9v28资讯网——每日最新资讯28at.com

4、ModelEngine 启动 DeepSeek-R1 推理服务后，平台支持 OpenAI API 调用风格的推理服务接口和访问方式，用户可以将该 API 集成到对话、RAG 以及 Agent 应用。t9v28资讯网——每日最新资讯28at.com

t9v28资讯网——每日最新资讯28at.com

到这里，基于ModelEngine私有化本地部署的DeepSeek-R1完整版推理服务API已经就绪了。t9v28资讯网——每日最新资讯28at.com

用户可以将推理服务API集成到对话应用、RAG或者Agent应用中，在保证数据安全的前提下，让DeepSeek-R1媲美世界头部顶流闭源大模型服务智能的能力。t9v28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-22-129073-0.html只需这4步 华为ModelEngine支持DeepSeek全系列本地部署

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 小米手机*#06#界面改版：新增SN+条形码 国补直接激活

下一篇： 红魔电竞平板Pro称霸1月安卓平板性能榜：骁龙8 Gen3领先版立大功