快科技2月6日音尘开云kaiyun，华为ModelEngine是大模子熟识、推理和诳骗开荒的AI平台，提供从数据预处理到模子熟识、优化及部署的一站式做事。
华为官方暗示，ModelEngine现已全面守旧DeepSeek系列模子R1&V3 671B以及蒸馏系列模子，开荒者可通过ModelEngine完满“一键部署”。
此举省去硬件选型、兼容性考据和环境建设等繁琐秩序，大幅抑止企业AI诳骗门槛。
此外华为还暗示，ModelEngine通过其高度的绽放性和模块化筹办，极地面裁减了DeepSeek的土产货部署时刻。
底下以DeepSeek-R1为例，基于ModelEngine 3步快速完成部署模子
1、登录ModelEngine模子处置页面，上传DeepSeek-R1 FP8权重，然后进行模子权重体式调度，将FP8精度模子权重调度为BF16精度模子权重；
2、在模子做事页面，采选BF16精度的模子权再版块，下发推理做事，开动任务部署；
3、ModelEngine使用MindIE推理框架开动DeepSeek-R1推理做事后，守旧OpenAI API 调用立场的推理做事接口和打听神气；
4、ModelEngine 开动 DeepSeek-R1 推理做事后，平台守旧 OpenAI API 调用立场的推理做事接口和打听神气，用户不错将该 API 集成到对话、RAG 以及 Agent 诳骗。
到这里，基于ModelEngine迥殊化土产货部署的DeepSeek-R1完满版推理做事API依然就绪了。
用户不错将推理做事API集成到对话诳骗、RAG概况Agent诳骗中，在保证数据安全的前提下，让DeepSeek-R1忘形寰宇头部顶流闭源大模子做事智能的材干。
【本文为止】如需转载请务必注明出处：快科技
包袱裁剪：随性开云kaiyun
著述本色举报 ]article_adlist--> 声明：新浪网独家稿件，未经授权断绝转载。 -->
