APPARATUS AND METHOD FOR ON-DEVICE RESOURCE ALLOCATION
본 발명의 일 실시예에 따른 온디바이스 리소스 할당 방법 신경망 연산기 정보, 신경망 정보 및 목표 연산 시간을 포함하는 연산 정보를 수신하는 단계; 상기 연산 정보에 기반하여 전체 연산 개수, 연산기별 연산 개수 및 스트라이드(Stride)를 포함하는 리소스 할당을 설정하는 단계; 상기 설정된 리소스 할당에 기반한 연산 시간을 모니터링하는 단계; 및 상기 모니터링된 수행 시간이 기설정된 조건을 만족하면 리소스 할당을 변경하는 단계를 포함한다....
Saved in:
Main Author | |
---|---|
Format | Patent |
Language | English Korean |
Published |
17.06.2024
|
Subjects | |
Online Access | Get full text |
Cover
Loading…
Summary: | 본 발명의 일 실시예에 따른 온디바이스 리소스 할당 방법 신경망 연산기 정보, 신경망 정보 및 목표 연산 시간을 포함하는 연산 정보를 수신하는 단계; 상기 연산 정보에 기반하여 전체 연산 개수, 연산기별 연산 개수 및 스트라이드(Stride)를 포함하는 리소스 할당을 설정하는 단계; 상기 설정된 리소스 할당에 기반한 연산 시간을 모니터링하는 단계; 및 상기 모니터링된 수행 시간이 기설정된 조건을 만족하면 리소스 할당을 변경하는 단계를 포함한다. |
---|---|
Bibliography: | Application Number: KR20230049100 |