CONVOLUTIONAL NEURAL NETWORK INFERENCE PROCESSING DEVICE AND CONVOLUTIONAL NEURAL NETWORK INFERENCE PROCESSING METHOD

• Main Authors: KOBAYASHI, Daisuke, UZAWA, Hiroyuki, NAKAMURA, Ken, OMORI, Yuya, HATTA, Saki, YOSHIDA, Shuhei
• Format: Patent
• Language: English; French; Japanese
• Published: 29.12.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

A first aspect of the present disclosure is a convolutional neural network inference processing device that executes processing in a convolutional neural network for each of tiles that are data of input data divided into a predetermined size, the neural network including a plurality of convolutional layers and a residual layer in which intermediate data regarding the plurality of convolutional layers is added as an adding target to processing results of the plurality of convolutional layers. The convolutional neural network inference processing device includes: an inconsistent data storage unit that stores inconsistent data that is data of portions to become inconsistent in the processing results and the intermediate data; a past layer data storage unit that stores past layer data, which is the adding target in the residual layer generated using the intermediate data and the inconsistent data regarding a tile to which the processing has been performed in the past; and a processing unit that executes the processing by the plurality of convolutional layers, and processing by the residual layer of adding the past layer data to the processing results. Un premier aspect de la présente divulgation concerne un dispositif de traitement d'inférences de réseaux neuronaux convolutifs qui exécute un traitement dans un réseau neuronal convolutif pour chaque mosaïque, c'est-à-dire des données de données d'entrée divisées selon une taille prédéterminée, le réseau neuronal comprenant une pluralité de couches convolutives et une couche résiduelle où sont ajoutées des données intermédiaires relatives à la pluralité de couches de convolutives sous forme de cible d'ajout aux résultats de traitement de la pluralité de couches convolutives. Le dispositif de traitement d'inférence de réseaux neuronaux convolutifs comprend : une unité de stockage de données aberrantes, qui stocke des données aberrantes, c'est-à-dire des données de parties allant devenir aberrantes parmi les résultats de traitement et parmi les données intermédiaires ; une unité de stockage de données de couches passées, qui stocke des données de couche passées, c'est-à-dire la cible d'ajout dans la couche résiduelle générée à l'aide des données intermédiaires et des données aberrantes relatives à une mosaïque où le traitement a été effectué dans le passé ; et une unité de traitement, qui exécute le traitement par la pluralité de couches convolutives et le traitement par la couche résiduelle d'ajout des données de couches passées aux résultats de traitement. 本開示の第１態様は、複数の畳み込み層と、複数の畳み込み層による処理結果に、複数の畳み込み層に係る中間データを加算対象として加算する残差層と、を含む畳み込みニューラルネットワークにおける処理を、入力データを所定の大きさに分割したデータであるタイル毎に実行する畳み込みニューラルネットワーク推論処理装置であって、処理結果と、中間データと、において不整合となる箇所のデータである不整合データを記憶する不整合データ記憶部と、過去に処理が実行されたタイルに係る不整合データと、中間データと、を用いて生成された残差層における加算対象である過去層データを記憶する過去層データ記憶部と、複数の畳み込み層による処理、及び処理結果に、過去層データを加算する残差層による処理を実行する処理部と、を備えた畳み込みニューラルネットワーク推論処理装置である。