GENERATING AN OUTPUT FOR A RECTIFIED LINEAR UNIT (ReLU)-ACTIVATED NEURON OF A NEURAL NETWORK

• Main Authors: AUNG, Khin Mi Mi, MEFTAH, Souhail, TAN, Hong Meng Benjamin
• Format: Patent
• Language: English; French
• Published: 14.07.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

In some aspects, a set of input elements is obtained, at a rectified linear unit-activated neuron of a neural network based, on input data at the neuron. A first group and a second group of input elements are generated based on the set of input elements. The first group and the second group of input elements are associated with first weight elements and second weight elements, respectively. A first value is generated based on the first group of input elements and the first weight elements. A second value is generated based on the second group of input elements and the second weight elements. A third value and a fourth value are respectively generated based on a first operation and a second operation on the first value and the second value. An output of the neuron is generated based on the third value and the fourth value. Selon certains aspects, l'invention concerne l'obtention d'un ensemble d'éléments d'entrée, au niveau d'un neurone activé par unité linéaire redressée (ReLU) d'un réseau neuronal, selon des données d'entrée au niveau du neurone. Un premier groupe et un second groupe d'éléments d'entrée sont produits selon l'ensemble d'éléments d'entrée. Le premier groupe et le second groupe d'éléments d'entrée sont respectivement associés à des premiers éléments pondéraux et à des seconds éléments pondéraux. Une première valeur est produite selon le premier groupe d'éléments d'entrée et selon les premiers éléments pondéraux. Une deuxième valeur est produite selon le second groupe d'éléments d'entrée et selon les seconds éléments pondéraux. Une troisième valeur et une quatrième valeur sont respectivement produites selon une première opération et selon une seconde opération sur la première valeur et sur la deuxième valeur. Une sortie du neurone est produite selon la troisième valeur et selon la quatrième valeur.