DISTRIBUTED DEEP LEARNING INFERENCING SYSTEM AND METHOD THAT CAN BE LINKED WITH DISTRIBUTED DEEP LEARNING PLATFORM TECHNOLOGY TO ACCELERATE LEARNING OF ARTIFICIAL INTELLIGENCE MODEL

• Main Authors: KOO TAE HOE, LEE CHEOL HEE, NAM CHAN HO
• Format: Patent
• Language: English; Korean
• Published: 22.09.2023
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

The present invention relates to a distributed deep learning inferencing system capable of being linked with a distributed deep learning platform to accelerate artificial intelligence model learning and a method thereof, and more specifically, to a distributed deep learning inferencing system, which is capable of being linked with a distributed deep learning platform technology to quickly train a large-scale artificial intelligence model that is essential for performance improvement and improving an inference speed at a service stage by clustering a plurality of servers and graphic processing units (GPUs), and a method thereof. The distributed deep learning inferencing system according to the present invention comprises: a hybrid-type distributed deep learning platform module; a distributed inferencing module; an API connecting the hybrid-type distributed deep learning platform module with the distributed inferencing module; a controller which controls the hybrid-type distributed deep learning platform module and the distributed inferencing module; and a web service-based user interface (UI) which integrates the hybrid-type distributed deep learning platform module with the distributed inferencing module. The distributed inferencing module analyzes video data to detect damage to at least one among a facility surface, a surface of an aircraft fuselage, and a jet engine, and drives an artificial intelligence model that quantifies and visualizes detected damage information based on a distribution technology. 본 발명은 인공지능 모델학습 고속화를 위한 분산 딥러닝 플랫폼과 연계 가능한 분산 딥러닝 인퍼런싱 시스템 및 그 방법에 관한 것으로, 보다 상세하게는 성능 향상을 위해 필수적인 큰 규모의 인공지능 모델을 빠르게 학습시키기 위한 분산 딥러닝 플랫폼 기술과 연계 가능하고, 다수의 서버 및 GPU(Graphic Processing Unit)를 클러스터링 하여 서비스 단계에서 추론 속도를 향상시키는 것이 가능한 분산 딥러닝 인퍼런싱 시스템 및 그 방법에 관한 것이다. 본 발명에 따른 분산 딥러닝 인퍼런싱 시스템은 하이브리드 방식의 분산 딥러닝 플랫폼 모듈; 분산 인퍼런싱 모듈; 상기 하이브리드 방식의 분산 딥러닝 플랫폼 모듈 및 분산 인퍼런싱 모듈을 연결하는 API; 상기 하이브리드 방식의 분산 딥러닝 플랫폼 모듈 및 분산 인퍼런싱 모듈을 제어하는 컨트롤러; 및 상기 하이브리드 방식의 분산 딥러닝 플랫폼 모듈 및 분산 인퍼런싱 모듈을 통합하는 웹 서비스 기반의 UI(User Interface)를 포함하고, 상기 분산 인퍼런싱 모듈은 영상 데이터를 분석하여 시설물 표면, 항공기 동체의 표면 및 제트 엔진 중 적어도 어느 하나의 손상을 검출하고, 검출된 손상 정보에 대한 정량화 및 시각화를 수행하는 인공지능 모델을 분산 기술 기반으로 구동시킨다.