METHOD AND SYSTEM FOR PROVIDING INTERPRETATION OF MACHINE LEARNING MODELS

• Main Author: LEE BYUNGJAE
• Format: Patent
• Language: English; Korean
• Published: 07.07.2023
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; DATA PROCESSING SYSTEMS OR METHODS, SPECIALLY ADAPTED FORADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORYOR FORECASTING PURPOSES; PHYSICS; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE,COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORY OR FORECASTINGPURPOSES, NOT OTHERWISE PROVIDED FOR

The present disclosure relates to a method for providing interpretation of a machine learning model, performed by at least one processor. The method of the present invention comprises the steps of: converting table type data into tensor type data including 2D data corresponding to each channel; inputting the converted tensor type data into a machine learning model including a plurality of layers to output a prediction result; generating an interpretation map for the prediction result using a feature map which is an output from at least one of a plurality of layers; generating explainable data on the basis of the table type data and the converted tensor type data; and applying an interpretation map to the explainable data. Therefore, the prediction performance of a machine learning model can be improved. 본 개시는 적어도 하나의 프로세서에 의해 수행되는, 기계학습 모델의 해석을 제공하는 방법에 관한 것이다. 기계학습 모델의 해석을 제공하는 방법은, 테이블 형태의 데이터를 하나 이상의 채널의 각각에 대응하는 2D 데이터를 포함하는 텐서 형태의 데이터로 변환하는 단계, 변환된 텐서 형태의 데이터를 복수의 레이어를 포함한 기계학습 모델에 입력하여 예측 결과를 출력하는 단계, 복수의 레이어 중 적어도 하나의 레이어로부터의 출력인 특징 맵(feature map)을 이용하여 예측 결과에 대한 해석 맵(map)을 생성하는 단계, 테이블 형태의 데이터 및 변환된 텐서 형태의 데이터를 기초로 설명가능한(explainable) 데이터를 생성하는 단계 및 설명가능한 데이터에 해석 맵을 적용하는 단계를 포함한다.