SYSTEME UND VERFAHREN ZUM BESCHNEIDEN VON NEURONALEN NETZEN FÜR EINE BETRIEBSMITTELEFFIZIENTE FOLGERUNG

• Main Authors: Aila, Timo Oskari, Molchanov, Pavlo, Tyree, Stephen Walter, Kautz, Jan, Karras, Tero Tapani
• Format: Patent
• Language: German
• Published: 26.04.2018
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

Ein Verfahren, ein von einem Computer lesbares Medium und ein System werden offenbart, um ein neuronales Netz zu beschneiden. Das Verfahren weist die Schritte auf Erfassen von Gradienten erster Ordnung einer Kostenfunktion relativ zu Schichtparametern für ein trainiertes neuronales Netz und Berechnen eines Beschneidungskriteriums für jeden Schichtparameter abhängig von dem Gradienten erster Ordnung, welcher mit dem Schichtparameter korrespondiert, wobei das Beschneidungskriterium eine Wichtigkeit von jedem Neuron anzeigt, welches in dem trainierten neuronalen Netz enthalten und dem Schichtparameter zugeordnet ist. Das Verfahren weist die zusätzlichen Schritte eines Identifizierens mindestens eines Neurons, welches eine niedrigste Wichtigkeit aufweist, und eines Entfernens des mindestens einen Neurons von dem trainierten neuronalen Netz, um ein beschnittenes neuronales Netz zu erzeugen, auf. A method, computer readable medium, and system are disclosed for neural network pruning. The method includes the steps of receiving first-order gradients of a cost function relative to layer parameters for a trained neural network and computing a pruning criterion for each layer parameter based on the first-order gradient corresponding to the layer parameter, where the pruning criterion indicates an importance of each neuron that is included in the trained neural network and is associated with the layer parameter. The method includes the additional steps of identifying at least one neuron having a lowest importance and removing the at least one neuron from the trained neural network to produce a pruned neural network.