METHOD AND DEVICE FOR COMPRESSING WEIGHTS
웨이트 압축 방법 및 장치가 개시된다. 일 실시예에 따른 웨이트 압축 방법은 복수의 필터들의 순서를 재배열(reorder)하는 단계, 재배열 결과에 기초하여, 복수의 필터들의 웨이트(weight)를 압축(compression)하는 단계, 압축된 웨이트를 미리 정해진 벌크 단위에 맞추어 동작 유닛(operation unit)에 매핑하여, 복수의 동작 유닛 맵들을 획득하는 단계 및 복수의 동작 유닛 맵들을 어레이에 매핑하는 단계를 포함한다. A method and apparatus are provided. The method inclu...
Saved in:
Main Authors | , , , , , |
---|---|
Format | Patent |
Language | English Korean |
Published |
02.02.2024
|
Subjects | |
Online Access | Get full text |
Cover
Loading…
Summary: | 웨이트 압축 방법 및 장치가 개시된다. 일 실시예에 따른 웨이트 압축 방법은 복수의 필터들의 순서를 재배열(reorder)하는 단계, 재배열 결과에 기초하여, 복수의 필터들의 웨이트(weight)를 압축(compression)하는 단계, 압축된 웨이트를 미리 정해진 벌크 단위에 맞추어 동작 유닛(operation unit)에 매핑하여, 복수의 동작 유닛 맵들을 획득하는 단계 및 복수의 동작 유닛 맵들을 어레이에 매핑하는 단계를 포함한다.
A method and apparatus are provided. The method includes reordering a plurality of filters, then based on a result of the reordering, compressing weights, among a plurality of weights of the plurality of filters, resulting in some of the plurality of weights being uncompressed weights, generating a plurality of operation unit maps by mapping the uncompressed weights to respective operation units according to a predetermined bulk unit, and mapping the plurality of operation unit maps to an array. |
---|---|
Bibliography: | Application Number: KR20220092353 |