• 热门行业
  • 装修建材
  • 家居生活
  • 餐饮食品
  • 母婴教育
  • 电脑办公
  • 服装首饰
  • 汽车工具
  • 家电数码
  • 机械化工
  • 休闲美容
返回上一页
专利状态
一种用于执行batchnormalization运算的装置和方法
有效
专利申请进度
申请
2016-04-29
申请公布
2020-10-30
授权
2024-01-16
预估到期
2036-04-29
专利基础信息
申请号 CN202010617696.8 申请日 2016-04-29
申请公布号 CN111860814A 申请公布日 2020-10-30
授权公布号 CN111860814B 授权公告日 2024-01-16
分类号 G06N3/063;G06N3/0499;G06N3/084;G06N3/08
分类 计算;推算;计数;
申请人名称 中科寒武纪科技股份有限公司
申请人地址 北京市海淀区知春路7号致真大厦D座16层1601房
专利法律状态
  • 2024-01-16
    授权
    状态信息
    授权
  • 2020-11-17
    实质审查的生效
    状态信息
    实质审查的生效;IPC(主分类):G06N3/063;申请日:20160429
  • 2020-10-30
    公布
    状态信息
    公布
摘要
本公开公开了一种用于执行batch normalization运算的装置,包括运算模块。使用该装置可以实现多层人工神经网络中的batch normalization运算。对于batch normalization运算来说,在正向过程中,用输入减去均值除以方差与极小量定值eps和的平方根。之后乘以学习参数alpha加上学习参数beta得到该层输出。在反向训练过程中,将输入梯度向量减去梯度向量的均值向量之后再减去梯度向量与正向得到的输出的乘积的均值乘以输出,得到的差值除以正向中的方差与极小定值和的平方根,得到该层的输出梯度向量。本公开有效提高了对人工神经网络中batch normalization正反向运算的支持。