NEURAL NETWORK MODEL CONVERSION DEVICE AND METHOD

A division position determination means 701 determines a division position in a weighting value group of at least one layer included in an applied neural network model, the weighting value group being configured such that kernels obtained by aligning at least one or more weighting values in a channe...

Full description

Saved in:
Bibliographic Details
Main Author SHIBATA Seiya
Format Patent
LanguageEnglish
French
Japanese
Published 22.12.2022
Subjects
Online AccessGet full text

Cover

Loading…
More Information
Summary:A division position determination means 701 determines a division position in a weighting value group of at least one layer included in an applied neural network model, the weighting value group being configured such that kernels obtained by aligning at least one or more weighting values in a channel direction are aligned in a kernel direction. A division means 702 divides the weighting value group at the division position, and thereby obtains a plurality of weighting value groups. A combined layer adding means 703 adds a combined layer in which pieces of output data, respectively obtained by calculating data input into the layer and each weighting value group after the division, are combined to form one output data. Furthermore, when a proportion of the number of weighting values which are 0 to the number of weighting values included in a weighting value group is used as a sparse degree, the division position determination means 701 determines a division position in the weighting value group prior to division such that at least one of the weighting value groups after the division has a sparse degree of a prescribed value or higher. Selon l'invention, un moyen de détermination de position de division (701) détermine une position de division dans un groupe de valeurs de pondération d'au moins une couche comprise dans un modèle de réseau neuronal appliqué, le groupe de valeurs de pondération étant configuré de telle sorte que les noyaux obtenus par alignement d'une ou plusieurs valeurs de pondération dans une direction de canal sont alignés dans une direction de noyau. Un moyen de division (702) divise le groupe de valeurs de pondération au niveau de la position de division, et obtient ainsi une pluralité de groupes de valeurs de pondération. Un moyen d'ajout de couche combinée (703) ajoute une couche combinée dans laquelle des éléments de donnée de sortie, respectivement obtenus par calcul d'une entrée de données dans la couche et de chaque groupe de valeurs de pondération après la division, sont combinés pour former une donnée de sortie. En outre, lorsqu'une proportion du nombre de valeurs de pondération qui sont égales à 0 au nombre de valeurs de pondération comprises dans un groupe de valeurs de pondération est utilisée comme degré creux, le moyen de détermination de position de division (701) détermine une position de division dans le groupe de valeurs de pondération avant la division de telle sorte qu'au moins l'un des groupes de valeurs de pondération après la division présente un degré creux d'une valeur prescrite ou plus. 分割位置決定手段701は、与えられたニューラルネットワークモデルに含まれる少なくとも1つの層の重み値群であって、少なくとも1つ以上の重み値をチャネル方向に並べることによって得られるカーネルをカーネル方向に並べた構成を有する重み値群における分割位置を決定する。分割手段702は、分割位置で重み値群を分割することによって、複数の重み値群を得る。結合層追加手段703は、その層への入力データと分割後のそれぞれの重み値群との演算によって得られるそれぞれの出力データを結合して1つの出力データにする結合層を追加する。そして、分割位置決定手段701は、重み値群に含まれる重み値の数に対する、0である重み値の数の割合をスパース度としたときに、分割後の少なくとも1つの重み値群が所定値以上のスパース度を有するように、分割前の重み値群における分割位置を決定する。
Bibliography:Application Number: WO2021JP22649