Bi-LSTM Bidirectional Long Short-Term Memory based web application workload prediction method and apparatus

• Main Authors: DANG QUANG NHAT MINH, YOO MYUNG SIK
• Format: Patent
• Language: English; Korean
• Published: 20.06.2023
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; DATA PROCESSING SYSTEMS OR METHODS, SPECIALLY ADAPTED FORADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORYOR FORECASTING PURPOSES; PHYSICS; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE,COMMERCIAL, FINANCIAL, MANAGERIAL, SUPERVISORY OR FORECASTINGPURPOSES, NOT OTHERWISE PROVIDED FOR

Disclosed are a bidirectional long short-term memory (Bi-LSTM)-based web application workload prediction method and apparatus to increase resource estimation accuracy. According to the present invention, the Bi-LSTM-based web application workload prediction apparatus comprises a processor and a memory connected to the processor. The memory stores program instructions executed by the processor of inputting, in a first LSTM in the forward direction, an input sequence which is time series data on application metrics including application throughput and average response time requested by a user, and pod information on all currently running nodes, to output a first hidden state; inputting the input sequence in the reverse direction to the second LSTM to output a second hidden state; using the first hidden state and the second hidden state through an auto scaler to calculate a future HTTP request workload; and calculating the number of pods required for provisioning or deprovisioning through the autoscaler on the basis of the future HTTP request workload. 본 발명은 Bi-LSTM 기반 웹 애플리케이션 워크로드 예측 방법 및 장치를 개시한다. 본 발명에 따르면, 프로세서; 및 상기 프로세서에 연결되는 메모리를 포함하되, 제1 LSTM(Long Short Term Memory)에 사용자가 요청하는 애플리케이션 처리량 및 평균 응답 시간을 포함하는 애플리케이션 메트릭 및 현재 실행 중인 모든 노드의 포드(Pod) 정보에 대한 시계열 데이터인 입력 시퀀스를 순방향으로 입력하여 제1 은닉 상태를 출력하고, 제2 LSTM에 상기 입력 시퀀스를 역방향으로 입력하여 제2 은닉 상태를 출력하고, 오토 스케일러를 통해 상기 제1 은닉 상태 및 상기 제2 은닉 상태를 이용하여 미래 HTTP 요청 워크로드를 계산하고, 상기 오토 스케일러를 통해 상기 미래 HTTP 요청 워크로드를 기반으로 프로비저닝 또는 디프로비저닝에 필요한 포드 수를 계산하도록, 상기 프로세서에 의해 실행되는 프로그램 명령어들을 저장하는 웹 애플리케이션 워크로드 예측 장치가 제공된다.