NEURON SMEARING FOR ACCELERATED DEEP LEARNING

• Main Authors: MICHAEL MORRISON, SRIKANTH AREKAPUDI, MICHAEL EDWIN JAMES, GARY R LAUTERBACH, LIE SEAN
• Format: Patent
• Language: English; Japanese
• Published: 24.12.2020
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; ELECTRIC COMMUNICATION TECHNIQUE; ELECTRIC DIGITAL DATA PROCESSING; ELECTRICITY; PHYSICS; TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHICCOMMUNICATION

To provide techniques in advanced deep learning for improving one or more of accuracy, performance, and energy efficiency.SOLUTION: An array of processing elements performs flow-based computations on wavelets of data. Each processing element has a respective compute element and a respective routing element. Each compute element has a memory. At least a first single neuron is implemented by using resources of the plurality of arrays of the processing elements. At least a portion of a second neuron is implemented by using resources of one or more of the plurality of processing elements.EFFECT: In some usage situations, neuron implementation enables greater performance by enabling a single neuron to use the computational resources of the plurality of processing elements and/or computational load balancing across the processing elements while maintaining locality of input activities for the processing elements.SELECTED DRAWING: None 【課題】精度・性能及びエネルギー効率の１若しくはそれ以上を改善する高度ディープラーニングにおける技法を提供する。【解決手段】処理要素のアレイは、データのウェーブレットに対してフローベースの計算を実行する。各処理要素は、各計算要素及び各ルーティング要素を有する。各計算要素はメモリを有する。少なくとも第１の１つのニューロンは、処理要素の複数のアレイのリソースを使用して実施される。第２のニューロンの少なくとも一部分は、複数の処理要素の１若しくはそれ以上のリソースを使用して実施される。【効果】幾つかの使用状況では、ニューロン実施は、１つのニューロンが複数の処理要素の計算リソースを使用できるようにすること及び／又は処理要素の入力活動のローカル性を維持しながら処理要素にわたる計算負荷平衡を可能にすることにより、より高い性能を可能にする。【選択図】なし