의료 영상 분석을 위한 설명 가능하고 안전한 인공지능

• Published in: Journal of the Korean Society of Radiology Vol. 85; no. 5; pp. 834 - 847
• Main Authors: 도신호, Synho Do
• Format: Journal Article
• Language: Korean
• Published: The Korean Society of Radiology 01.09.2024; 대한영상의학회
• Subjects: Explainable/Reliable Artificial Intelligence, and Generative Artificial Intelligence with Large Language Model for Radiologist; 방사선과학; Safe AI; Explainable AI; Zero-Error Tolerance Model
• ISSN: 1738-2637; 2951-0805
• DOI: 10.3348/jksr.2024.0118

Artificial intelligence (AI) is transforming radiology with improved diagnostic accuracy and efficiency, but prediction uncertainty remains a critical challenge. This review examines key sources of uncertainty-out-of-distribution, aleatoric, and model uncertainties-and highlights the importance of independent confidence metrics and explainable AI for safe integration. Independent confidence metrics assess the reliability of AI predictions, while explainable AI provides transparency, enhancing collaboration between AI and radiologists. The development of zero-error tolerance models, designed to minimize errors, sets new standards for safety. Addressing these challenges will enable AI to become a trusted partner in radiology, advancing care standards and patient outcomes. 인공지능(artificial intelligence; 이하 AI)은 진단 정확도와 효율성을 높여 영상의학 분야에 변화를 가져오고 있지만, 예측 불확실성은 여전히 중요한 과제로 남아 있다. 본 리뷰에서는 주요 불확실성의 원인인 분포 외(out-of-distribution) 불확실성, 데이터 내재적 불확실성(aleatoric uncertainty), 모델 불확실성을 다루며, 안전한 AI 통합을 위해 독립적인 신뢰성 지표와 설명 가능한 AI의 중요성을 강조한다. 독립적인 신뢰성 지표는 AI 예측의 신뢰성을 평가하는 데 기여하며, 설명 가능한 AI는 투명성을 제공하여 AI와 영상의학 전문의 간의 협업을 강화한다. 오류 무관용(zero error tolerance) 모델의 개발은 오류를 최소화하도록 설계되어, 안전성의 새로운 기준을 제시하였다. 이러한 문제를 해결함으로써 AI는 영상의학에서 신뢰할 수 있는 동반자로 자리 잡아, 환자 진료 수준과 결과를 개선하는 데 기여할 것이다.