Bi-LSTM Bidirectional Long Short-Term Memory based web application workload prediction method and apparatus

• Main Authors: DANG QUANG NHAT MINH, YOO MYUNG SIK
• Format: Patent
• Language: English; Korean
• Published: 20.06.2023
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; DATA PROCESSING SYSTEMS OR METHODS, SPECIALLY ADAPTED FORADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORYOR FORECASTING PURPOSES; PHYSICS; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE,COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORY OR FORECASTINGPURPOSES, NOT OTHERWISE PROVIDED FOR

According to the present invention, disclosed are a method and a device for predicting a web application workload based on Bi-long short term memory (LSTM). According to the present invention, the device comprises: a processor; and a memory connected to the processor. The device of the present invention stores program instructions executed by the processor to output a first hidden state by inputting, into a first LSTM, an input sequence which is time series data on an application matrix including application throughput and average response time requested by a user and pod information on all currently running nodes, in a forward direction, to output a second hidden state by inputting the input sequence into a second LSTM in a backward direction, to calculate a future HTTP request workload using the first and second hidden states through an auto-scaler, and to calculate the number of pods required for provisioning or de-provisioning based on the future HTTP request workload through the auto-scaler. Therefore, a predicted speed faster than ARIMA can be achieved. 본 발명은 Bi-LSTM 기반 웹 애플리케이션 워크로드 예측 방법 및 장치를 개시한다. 본 발명에 따르면, 프로세서; 및 상기 프로세서에 연결되는 메모리를 포함하되, 제1 LSTM(Long Short Term Memory)에 사용자가 요청하는 애플리케이션 처리량 및 평균 응답 시간을 포함하는 애플리케이션 메트릭 및 현재 실행 중인 모든 노드의 포드(Pod) 정보에 대한 시계열 데이터인 입력 시퀀스를 순방향으로 입력하여 제1 은닉 상태를 출력하고, 제2 LSTM에 상기 입력 시퀀스를 역방향으로 입력하여 제2 은닉 상태를 출력하고, 오토 스케일러를 통해 상기 제1 은닉 상태 및 상기 제2 은닉 상태를 이용하여 미래 HTTP 요청 워크로드를 계산하고, 상기 오토 스케일러를 통해 상기 미래 HTTP 요청 워크로드를 기반으로 프로비저닝 또는 디프로비저닝에 필요한 포드 수를 계산하도록, 상기 프로세서에 의해 실행되는 프로그램 명령어들을 저장하는 웹 애플리케이션 워크로드 예측 장치가 제공된다.