DEVICE AND METHOD FOR TRAINING A CLASSIFIER AND ASSESSING THE ROBUSTNESS OF A CLASSIFIER

• Main Authors: FINNIE NICOLE YING, HUTMACHER ROBIN, METZEN JAN HENDRIK
• Format: Patent
• Language: English; Korean
• Published: 22.10.2021
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

A computer-implemented method for training a classifier (60), in which the classifier (60) is configured to classify input signals of digital image data and/or audio data, and the classifier (60) is trained based on a perturbed input signal obtained by applying a perturbation provided from a plurality (ξ) of perturbations to an input signal provided from a training dataset, includes: providing a plurality of initial perturbations; adapting a perturbation among the initial perturbations to the input signal, in which the input signal is randomly derived from the training dataset, and the perturbation is adapted to the input signal such that a second input signal that is classified differently from the first input signal is computed by applying the perturbation to the input signal; providing a subset of the initial perturbations as a plurality (ξ) of perturbations; and training the classifier (60) based on the plurality (ξ) of perturbations. 분류기(60)를 훈련하기 위한 컴퓨터 구현 방법으로서, 분류기(60)는 디지털 이미지 데이터 및/또는 오디오 데이터의 입력 신호들을 분류하도록 구성되고, 분류기(60)를 훈련하는 것은 복수(ξ)의 섭동으로부터 제공되는 섭동을 훈련 데이터세트로부터 제공된 입력 신호에 적용함으로써 획득되는 섭동된 입력 신호에 기초하고, 방법은 하기 단계들: JPEGpat00017.jpg55 복수의 초기 섭동을 제공하는 단계; JPEGpat00018.jpg55 복수의 초기 섭동으로부터의 섭동을 입력 신호에 적응화하는 단계 - 입력 신호는 훈련 데이터세트로부터 무작위로 도출되고, 섭동을 입력 신호에 적용하는 것이 제1 입력 신호와 다르게 분류되는 제2 입력 신호를 산출하도록, 섭동이 입력 신호에 적응화됨 - ; JPEGpat00019.jpg55 복수(ξ)의 섭동으로서 복수의 초기 섭동의 서브세트를 제공하는 단계; 및 복수(ξ)의 섭동에 기초하여 분류기(60)를 훈련하는 단계 를 포함한다.