面向微服务的批推理方法、服务器和计算机可读存储介质

热门行业
装修建材
家居生活
餐饮食品
母婴教育
电脑办公
服装首饰
汽车工具
家电数码
机械化工
休闲美容

热门行业

教育培训
板材
地板
涂料
家纺
集成吊顶
美缝剂
木门
硅藻泥
管材
指纹锁
橱柜
衣柜
床垫
电热水器
集成灶
暖气片
净水器
酒店
卫浴

返回上一页

专利状态

面向微服务的批推理方法、服务器和计算机可读存储介质

有效

专利申请进度

申请

2019-12-10

申请公布

2020-05-08

授权

2023-05-16

预估到期

2039-12-10

专利基础信息

申请号	CN201911256451.0	申请日	2019-12-10
申请公布号	CN111124708A	申请公布日	2020-05-08
授权公布号	CN111124708B	授权公告日	2023-05-16
分类号	G06F9/54;G06N5/043
分类	计算；推算；计数;
申请人名称	广州小鹏汽车科技有限公司
申请人地址	广东省广州市天河区岑村松岗大街8号

专利法律状态

2023-05-16

授权

状态信息

授权
2020-05-08

公布

状态信息

公布

摘要

本发明涉及深度学习技术领域，特别是涉及一种面向微服务的批推理方法、服务器和计算机可读存储介质。面向微服务的批推理方法包括：接收客户端发送的用户请求；将请求存入字典并添加到当前请求队列；等待子线程返回当前请求队列中所有请求对应的微服务的批推理结果；读取批推理结果；向客户端返回批推理结果。在实际的业务场景中，微服务之间往往是并发关系，使用框架级别的批推理无法对此进行优化，使用本发明提出的方案，可以节约并发场景下的无效等待时间，提升优化效果。

更多专利

全国服务热线：

在线客服

1211389656 咨询

商务合作

85926368 咨询

媒体合作

921888730 咨询

在线客服
客服微信号

品牌网官方客服微信

打开微信扫一扫

客服微信
商务合作微信

商务合作详谈

打开微信扫一扫

商务合作
回到顶部

在线客服

商务合作

媒体合作

客服微信号

商务合作微信