SCM을 적용한 빅데이터 스트림 처리 시스템 설계 및 성능 분석

• Published in: 정보과학회 컴퓨팅의 실제 논문지 Vol. 25; no. 11; pp. 523 - 532
• Main Authors: 이경수(Kyungsoo Lee), 김소현(Sohyun Kim), 송다은(Daeun Song)
• Format: Journal Article
• Language: Korean
• Published: Korean Institute of Information Scientists and Engineers 01.11.2019; 한국정보과학회
• Subjects: 컴퓨터학; 스파크; storage class memory; spark; stream processing; 스토리지 클래스 메모리; big data eco system; 스트림 처리 시스템; 빅데이터 에코 시스템; big data; 빅데이터
• ISSN: 2383-6318; 2383-6326
• DOI: 10.5626/KTCP.2019.25.11.523

DRAM의 고비용과 스토리지의 IO 오버헤드가 인-메모리 기반의 빅데이터 스트림 처리 시스템 구축에 문제가 되고 있다. 본 논문은 스트림 처리 시스템의 비용, 성능 문제를 해결하기 위해 SCM을 고용량의 메모리와 빠른 스토리지로 적용하는 방안을 소개한다. 메모리 모드는 DRAM을 SCM으로 대체해 비용을 낮추고, 스토리지 모드는 Disk 대신 SCM을 사용해 시스템 성능을 높인다. 본 논문은 Spark Streaming ECO System을 구성하는 응용 별 SCM을 적용해 DRAM 절감과 성능 변화를 측정하고, 이 응용이 전체 시스템에 미치는 영향을 분석하였다. 모든 응용에 메모리 모드, 스토리지 모드를 동시 적용한 결과 QoS는 95th는 1.4%, 99th는 2.8% 증가하였고, DRAM은 31% 절감했다. Spark 메모리 모드가 시스템에 미치는 영향이 가장 크며, SCM이 적용된 타 응용의 성능 변화는 Spark으로 인해 드러나지 않는 것으로 분석되었다. The high cost of the DRAM and the IO overhead of the storage has become a problem of In-memory based stream system construction. This paper introduces SCM as a high capacity memory and fast storage to solve cost and performance problems of the stream processing system. The memory mode of the SCM replaces the heap of the DRAM with the SCM to lower the cost of the DRAM, and the storage mode of the SCM uses SCM instead of Disk to improve system performance. The big data stream processing system to apply SCM selected Spark Streaming ECO System. In the present work, we have analyzed the effect of SCM application on the whole system by measuring performance change and the reduction of DRAM by applying SCM for each application constituting the system. Application of both memory and storage modes to all applications resulted in a 1.4%/2.8% increase in QoS performance at 95th/99th, and a 31% reduction in DRAM. In addition, it was analyzed that the memory mode applied to Spark has the greatest influence on the system. The change in performance of other applications using SCM was not revealed due to Spark. KCI Citation Count: 0