深度学习模型在线推理方法、装置、电子设备和存储介质

热门行业
装修建材
家居生活
餐饮食品
母婴教育
电脑办公
服装首饰
汽车工具
家电数码
机械化工
休闲美容

热门行业

教育培训
板材
地板
涂料
家纺
集成吊顶
美缝剂
木门
硅藻泥
管材
指纹锁
橱柜
衣柜
床垫
电热水器
集成灶
暖气片
净水器
酒店
卫浴

返回上一页

专利状态

深度学习模型在线推理方法、装置、电子设备和存储介质

有效

专利申请进度

申请

2020-03-24

申请公布

2020-07-28

授权

2021-08-20

预估到期

2040-03-24

专利基础信息

申请号	CN202010214817.4	申请日	2020-03-24
申请公布号	CN111461332A	申请公布日	2020-07-28
授权公布号	CN111461332B	授权公告日	2021-08-20
分类号	G06N5/04;G06F9/54
分类	计算；推算；计数;
申请人名称	北京五八信息技术有限公司
申请人地址	北京市海淀区学清路甲18号中关村东升科技园学院园三层301室

专利法律状态

2021-08-20

授权

状态信息

授权
2020-08-21

实质审查的生效

状态信息

实质审查的生效；IPC(主分类):G06N5/04；申请日:20200324
2020-07-28

公布

状态信息

公布

摘要

本发明提供了一种深度学习模型在线推理方法、装置、电子设备和存储介质，该方法包括：通过与深度学习框架对应的RPC调用接口接收在线推理请求；获取基于所述深度学习框架部署的深度学习模型对应的节点配置文件，所述节点配置文件包括多个节点的IP地址和端口；从所述多个节点中确定一个节点，作为推理节点，并根据所述推理节点的IP地址和端口将所述在线推理请求发送至所述推理节点，以使所述推理节点调用所述深度学习模型获得推理结果；接收所述推理节点返回的推理结果。本发明实现了通过RPC调用接口统一接收在线推理请求，并从部署深度学习模型的多个节点中通过负载均衡策略确定执行在线推理的推理节点，提升了在线推理性能。

更多专利

全国服务热线：

在线客服

1211389656 咨询

商务合作

85926368 咨询

媒体合作

921888730 咨询

在线客服
客服微信号

品牌网官方客服微信

打开微信扫一扫

客服微信
商务合作微信

商务合作详谈

打开微信扫一扫

商务合作
回到顶部

在线客服

商务合作

媒体合作

客服微信号

商务合作微信