首页> 外国专利> Associative long short-term memory neural network layers

Associative long short-term memory neural network layers

机译：联想长短短期记忆神经网络层

页面导航

摘要
著录项
相似文献

摘要

Systems, methods, and apparatus, including computer programs encoded on a computer storage medium, related to associative long short-term memory (LSTM) neural network layers configured to maintain N copies of an internal state for the associative LSTM layer, N being an integer greater than one. In one aspect, a system includes a recurrent neural network including an associative LSTM layer, wherein the associative LSTM layer is configured to, for each time step, receive a layer input, update each of the N copies of the internal state using the layer input for the time step and a layer output generated by the associative LSTM layer for a preceding time step, and generate a layer output for the time step using the N updated copies of the internal state.

机译：包括在计算机存储介质上编码的计算机程序，包括与关联长短期存储器（LSTM）神经网络层相关的计算机程序，该计算机程序被配置为维护关联LSTM层的内部状态的n份，n为整数大于一个。在一个方面，一个系统包括包括关联LSTM层的复发性神经网络，其中关联LSTM层被配置为，对于每个时间步长，接收层输入，使用图层输入更新内部状态的每个N副本对于前一时间步骤的关联LSTM层生成的时间步骤和一个层输出，并使用内部状态的n更新的副本生成时间步骤的图层输出。

著录项

公开/公告号US11010663B2

专利类型
公开/公告日2021-05-18

原文格式PDF
申请/专利权人 DEEPMIND TECHNOLOGIES LIMITED;
展开▼

申请/专利号US201615395553
发明设计人 IVO DANIHELKA;NAL EMMERICH KALCHBRENNER;GREGORY DUNCAN WAYNE;BENIGNO URÍA-MARTÍNEZ;ALEXANDER BENJAMIN GRAVES;
展开▼

申请日2016-12-30
分类号G06N3/08;G06N3/04;
国家 US
入库时间 2022-08-24 18:43:14

相似文献

专利
外文文献
中文文献