강화학습 기반 수평적 파드 오토스케일링 정책의학습 가속화를 위한 전이학습 기법Transfer Learning Technique for Accelerating Learning of Reinforcement Learning-Based Horizontal Pod Autoscaling Policy
- Other Titles
- Transfer Learning Technique for Accelerating Learning of Reinforcement Learning-Based Horizontal Pod Autoscaling Policy
- Authors
- 장용현; 유헌창; 김성석
- Issue Date
- 2022
- Publisher
- 한국정보처리학회
- Keywords
- Kubernetes; Reinforcement Learning; Autoscaling; 쿠버네티스; 강화학습; 오토스케일링
- Citation
- 정보처리학회논문지. 컴퓨터 및 통신시스템, v.11, no.4, pp.105 - 112
- Indexed
- KCI
- Journal Title
- 정보처리학회논문지. 컴퓨터 및 통신시스템
- Volume
- 11
- Number
- 4
- Start Page
- 105
- End Page
- 112
- URI
- https://scholar.korea.ac.kr/handle/2021.sw.korea/142025
- ISSN
- 2287-5891
- Abstract
- 최근 환경의 변화에 적응적이고 특정 목적에 부합하는 오토스케일링 정책을 만들기 위해 강화학습 기반 오토스케일링을 사용하는 연구가 많이이루어지고 있다. 하지만 실제 환경에서 강화학습 기반 수평적 파드 오토스케일러(HPA, Horizontal Pod Autoscaler)의 정책을 학습하기 위해서는많은 비용과 시간이 요구되며, 서비스를 배포할 때마다 실제 환경에서 강화학습 기반 HPA 정책을 처음부터 다시 학습하는 것은 실용적이지 않다.
본 논문에서는 쿠버네티스에서 강화학습 기반 HPA를 구현하고, 강화학습 기반 HPA 정책에 대한 학습을 가속화하기 위해 대기행렬 모델 기반시뮬레이션을 활용한 전이 학습 기법을 제안한다. 시뮬레이션을 활용한 사전 학습을 수행함으로써 실제 환경에서 시간과 자원을 소모하며 학습을수행하지 않아도 시뮬레이션 경험을 통해 정책 학습이 이루어질 수 있도록 하였고, 전이 학습 기법을 사용함으로써 전이 학습 기법을 사용하지않았을 때보다 약 42.6%의 비용을 절감할 수 있었다.
- Files in This Item
- There are no files associated with this item.
- Appears in
Collections - Graduate School > Department of Computer Science and Engineering > 1. Journal Articles
Items in ScholarWorks are protected by copyright, with all rights reserved, unless otherwise indicated.