멤리스터 기반 신경 네트워크 트레이닝 방법 및 그 트레이닝 장치

• Main Authors: WU HUAQIANG, QIAN HE, ZHANG QINGTIAN, GAO BIN, YAO PENG
• Format: Patent
• Language: Korean
• Published: 23.06.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; INFORMATION STORAGE; PHYSICS; STATIC STORES

멤리스터 기반 신경 네트워크 트레이닝 방법 및 그 트레이닝 장치. 신경 네트워크는 하나씩 연결된 복수의 뉴런 계층들과 상기 뉴런 계층들 간의 가중치 파라미터들을 포함한다. 상기 트레이닝 방법은 다음을 포함한다: 신경 네트워크의 가중치 파라미터들들을 트레이닝하고, 트레이닝된 가중치 파라미터를 기반으로 멤리스터 어레이를 프로그래밍하여 트레이닝된 가중치 파라미터들을 멤리스터 어레이에 기록하는 단계; 및 멤리스터 어레이의 컨덕턴스 값들의 일부를 조정하여 신경 네트워크의 가중치 파라미터들의 적어도 하나의 계층들을 업데이트하는 단계. 상기 트레이닝 방법에 따르면, 멤리스터 신경 네트워크의 온-칩 트레이닝 및 오프 칩 트레이닝 구현 방식의 결함이 극복된다; 신경 네트워크 시스템 구현의 관점에서, 수율 문제, 비일관성 문제, 컨덕턴스 드리프트 및 랜덤한 변동성과 같은 디바이스들의 비이상적 특성으로 인한 신경 네트워크 시스템의 기능 저하가 해결되며, 신경 네트워크 시스템의 복잡성이 크게 단순화되고 신경 네트워크 시스템의 실현 비용이 절감된다. A training method and a training device for a neural network based on memristors are provided. The neural network includes a plurality of neuron layers connected one by one and weight parameters between the plurality of neuron layers, and the training method includes: training the weight parameters of the neural network, and programming a memristor array based on the weight parameters after being trained to write the weight parameters after being trained into the memristor array; and updating a critical layer or several critical layers of the weight parameters of the neural network by adjusting conductance values of at least part of memristors of the memristor array.