데이터 중독 공격 방어를 위한 신뢰도 점수 기반 연합학습

• Published in: 디지털콘텐츠학회논문지 Vol. 24; no. 6; pp. 1317 - 1326
• Main Authors: 오석환(Sukhuan Ou), 정송헌(Songheon Jeong), 김경백(Kyungbaek Kim)
• Format: Journal Article
• Language: Korean
• Published: 한국디지털콘텐츠학회 01.06.2023
• Subjects: 컴퓨터학; 연합학습; 머신러닝; 신뢰도; Federated Learning; Data Poisoning Attack; 데이터 중독 공격; Reliability; Machine Learning; Algorithm; 알고리즘
• ISSN: 1598-2009; 2287-738X
• DOI: 10.9728/dcs.2023.24.6.1317

연합학습은 로컬 데이터를 공유하지 않고 모델 업데이트만 공유하여 여러 클라이언트에서 분산된 개인 데이터 세트를 활용해 성능을 향상시키고 사용자에게 개인정보보호를 제공하는 머신러닝 기술이다. 하지만 연합학습은 모든 학습 클라이언트가 목적에 맞는 데이터를 보유하고 있으며, 학습 모델을 개선하는데 항상 긍정적인 기여를 한다는 가정으로 인해 데이터 중독 등의 공격을 통해 모델 학습에 부정적인 영향을 끼칠 수 있는 악의적인 클라이언트가 참여할 수 있다. 이 논문에서는 연합학습에 참여하고자 하는 클라이언트의 신뢰도 점수를 계산하고, 신뢰도 점수를 기반으로 참여 클라이언트를 선택하여 데이터 중독 공격 방어를 가능하게 하는 신뢰도 점수 기반 연합학습(Trust Score based Federated Learning, TSFL)알고리즘을 제안한다. 제안된 알고리즘을 구현하여 FedAVG 및 BlockFLow와 같은 선행연구와 비교 평가한 결과, 연합학습에 데이터 중독 공격이 진행되는 상황에서 제안 알고리즘이 최대 7%의 모델 성능 개선을 달성하는 것을 확인하였다. In machine learning, federated learning is used to improve performance and provide greater privacy to users by utilizing distributed personal datasets across multiple clients while sharing only updates to a learning model rather than any local data. However, federated learning is vulnerable to malicious clients who can negatively affect the learning process through attacks such as data addiction, because existing methods assume that all learning clients provide useful data and always make a positive contribution to improving the learning model. In this study, we propose a trust score-based federated learning (TSFL) algorithm that calculates a reliability score for clients in federated learning to provide a defense against data addiction attacks by selecting participating clients accordingly. The results of an experimental evaluation of the proposed algorithm and a comparison with existing methods such as FedAVG and BlockFLow confirmed that the proposed algorithm achieved up to 7% better performance in data addiction attacks on a federated learning system. KCI Citation Count: 0