CNN 모델에 대한 임베디드 가속기 플랫폼의 성능 및 비용분석

초록

최근 인공지능 어플리케이션은 다양한 시스템에서 구동되고 있으며 이를 효율적으로 처리하기 위하여 하드웨어/소프트웨어적인 최적화 방법이 적용되고 있다. 그러나 제한된 자원을 가진 임베디드 환경에서는 범용 컴퓨팅 환경에 적용되는 최적화 방법을 바로 적용하기 어렵기 때문에 임베디드 환경에 특화된 성능 및 비용 분석이 필요하다. 본 연구는 임베디드 환경에서 범용 가속기(GPU)와 AI 특화 가속기(DLA)를 비교하고 상황에 따라 적합한 가속기를 선택할 수 있는 기준을 제시한다. 실험결과 CNN 모델에서 DLA는 GPU에 비해 최대 4.5배 정도 전력 효율성을 보였다. 반면 처리량, 지연시간, 에너지 효율 측면에서는 GPU보다 낮은 성능을 기록하였다. 종합적으로 임베디드 환경에서 AI 특화 가속기는 전력 효율 면에서 우수한 성능을 나타내고 있으며 범용적인 워크로드들을 동시에 처리할 때 CPU/GPU와 같은 범용 프로세서와 병렬로 분산하여 활용할 때 성능 및 비용의 최적화가 가능하다.

키워드