METHOD AND APPARATUS FOR PROCESSING CONVOLUTIONAL OPERATION OF NEURAL NETWORK PROCESSOR

• Main Authors: KIM HAN JOON, CHOI YOUNG GEUN, HONG BYUNG CHUL, GU BON CHEOL, KIM MIN JAE
• Format: Patent
• Language: English; Korean
• Published: 24.01.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

An embodiment of the present invention provides a device for processing a convolution operation, configured to, in a neural network, process a convolution operation of input data configured in the form of width x height x input channel and a filter formed in the form of K x K x input channel or K x K (wherein K is an integer greater than or equal to 1) to correspond to the form of the input data, thereby generating output data configured in the form of width x height x output channel, wherein the device for processing a convolution operation. The device comprises: a fetch unit for sequentially reading, from a memory storing the input data, a data group having many more pieces of data than unit data throughput of an operator and providing the data group to the operator so that at least one piece of data from among the data constituting the data group is reused for the convolution operation; and an operation unit for, by using one or more operators, performing the convolution operation on the data constituting the data group and filtering a plurality of numbers multiple times according to the unit data throughput. According to the present invention, the device for processing a convolution operation has the effect of increasing the processing speed and efficiency of complex operations such as convolution. 본 발명의 일 실시예는, 뉴럴 네트워크에 있어서, 폭 x 높이 x 입력 채널의 형태로 구성되는 입력 데이터와 상기 입력 데이터의 형태에 대응되도록 K x K x 입력 채널 혹은 K x K(K는 1이상의 정수)의 형태로 형성되는 필터의 컨벌루션 연산을 처리하여, 폭 x 높이 x 출력 채널의 형태로 구성되는 출력 데이터를 생성하도록 구성되는 컨벌루션 연산 처리 장치로서, 상기 입력 데이터가 저장된 메모리에서 연산기의 단위 데이터 처리량보다 많은 데이터를 갖는 데이터군을 순차적으로 읽어오고 상기 데이터군을 구성하는 데이터 중 적어도 어느 하나 이상의 데이터가 상기 컨벌루션 연산에 재사용되도록 상기 데이터군을 상기 연산기로 제공하는 페치 유닛, 그리고, 하나 이상의 상기 연산기를 이용하여 상기 단위 데이터 처리량에 맞춰 상기 데이터군을 구성하는 데이터와 상기 필터의 컨벌루션 연산을 복수회 수행하는 연산 유닛을 포함하는 컨벌루션 연산 처리 장치를 제공한다.