Sparse data based convolution calculate method and apparatus using artificial neural network

• Main Authors: CHOI JUNG WOOK, LEE JANG HWAN, HAN JEONG HO
• Format: Patent
• Language: English; Korean
• Published: 15.03.2024
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

일 실시예에 따른 뉴럴 네트워크의 파라미터들을 양자화하는 방법은, 미리 훈련된(pre-trained) 뉴럴 네트워크에 포함된 파라미터 값들의 에너지 분포 함수를 상기 뉴럴 네트워크의 레이어(layer) 별로 추출하는 단계, 상기 에너지 분포 함수에 기초한 미리 설정된 제1 바이어스(bias) 값 및 상기 제1바이어스 값에서 미리 설정된 값을 더하거나 차감시킨 값을 제2바이어스 값으로 결정하는 바이어스 결정 단계, 상기 제1바이어스 값 및 상기 제2바이어스 값에 대한 상기 확률 밀도 함수의 SQNR(Signal to Quantization Noise Ratio Quantization) 값을 산출하는 SQNR 산출 단계, 상기 제1바이어스에 대한 제1 SQNR 값 및 상기 제2바이어스에 대한 제2 SQNR 값들을 비교한 결과에 기초하여 상기 에너지 분포 함수수에 대한 최종 바이어스 값을 결정하는 최종 바이어스 결정 단계 및 상기 최종 바이어스 값에 기초하여 상기 레이어별로 파라미터 양자화를 수행하는 양자화 수행 단계를 포함할 수 있다.