Last Level Cache에서 캐시 실패율을 줄이기 위한 그룹 기반 교체 알고리즘

Abstract

마이크로프로세서에 비해 상대적으로 느린 메모리의 속도를 극복하고, 시스템의 성능을 향상시키기 위하여 캐시가도입되어 사용되고 있다. 이러한 캐시의 성능을 더욱 향상시키기 위하여 많은 노력들이 이루어지고 있으며 그러한노력 중 하나로 최적화된 교체 알고리즘을 찾기 위한 연구들이 이루어지고 있다. 하지만 이러한 연구의 대부분은상위 레벨 캐시에 집중되어 있다. 용량이 상대적으로 큰 최하위 레벨 캐시의 경우 상위 캐시에서와는 다른 특성들을 가질 수 있다. 그렇기 때문에 상위 레벨 캐시와 똑같은 교체 알고리즘을 적용할 경우 최적의 성능을 보이지 못하는 경우가 많다. 본 논문에서는 이러한 LLC (Last Level Cache)의 특성에 초점을 맞추어 그에 적합한 그룹 기반 캐시 교체 알고리즘을 제안한다. 본 논문에서 제안하는 알고리즘에서는, 큰 배열에 속한 데이터가 다시 사용될가능성이 높은 점을 감안하여, 데이터 그룹을 기반으로 교체될 캐시 라인을 선택한다. 본 논문에서는 제안하는 그룹 기반 교체 알고리즘을 LLC에 적용하여 실험해보았으며, 이때의 캐시 실패율이 LRU 알고리즘과 비교하여 8.5%낮게 나타났다. 이때, 그룹을 정의하는 방법에 따라 성능에 차이를 보일 수 있으며, 이에 대한 연구는 추후연구로남겨둔다.