NEURAL NETWORK INSTRUCTION SET ARCHITECTURE

• Main Authors: KHAITAN HARSHIT, NARAYANASWAMI RAVI, WOO DONG HYUK, TEMAM OLIVIER
• Format: Patent
• Language: English; Korean
• Published: 19.04.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

프로세싱 유닛에 의해, 텐서 계산을 수행하기 위한 데이터 값들을 특정하는 명령어를 수신하는 단계를 포함하는 컴퓨터로 구현되는 방법. 상기 방법은 상기 프로세싱 유닛에 의해, 상기 명령어의 수신에 응답하여, 복수의 루프들을 포함하는 루프 네스트를 실행함으로써 상기 텐서 계산을 수행하는 단계를 포함하며, 상기 루프 네스트의 구조는 상기 명령어의 상기 데이터 값들 중 하나 이상에 기초하여 정의된다. 상기 텐서 계산은 신경 네트워크 레이어의 계산의 적어도 일부일 수 있다. 상기 명령어에 의해 특정된 상기 데이터 값들은 상기 신경 네트워크 레이어의 유형을 특정하는 적어도 하나의 값을 포함할 수 있고, 상기 루프 네스트의 구조는 상기 신경 네트워크 레이어의 상기 유형에 의해 적어도 부분적으로 정의될 수 있다. A computer-implemented method that includes receiving, by a processing unit, an instruction that specifies data values for performing a tensor computation. In response to receiving the instruction, the method may include, performing, by the processing unit, the tensor computation by executing a loop nest comprising a plurality of loops, wherein a structure of the loop nest is defined based on one or more of the data values of the instruction. The tensor computation can be at least a portion of a computation of a neural network layer. The data values specified by the instruction may comprise a value that specifies a type of the neural network layer, and the structure of the loop nest can be defined at least in part by the type of the neural network layer.