간접 분기 감시와 프로그램 카운터 인코딩에 의한 제어 흐름 보호 방법

Abstract

최근의 프로그램 공격은 프로그램의 보안 약점을 악용하여 제어 흐름을 탈취한 후 공격자가 의도한 코드를 실행한다. 이 논문은 제어 흐름 무결성 기법과 난독화 기법을 상호 보완적으로 사용하여 제어 흐름 탈취 공격으로부터 코드 포인터를 보호하는 방법을 제안하고 있다. 실제 공격 사례를 재현한 실험에서 제안된 방법은 방어 효과가 있음을 확인하였다. 또한, SPEC 2006을 사용하여 실행 시간 부담을 측정하였다. 성능 부담은 4%～300%의 범위로 관찰되었으며 이 결과는 간접 분기 감시 기법으로 보호해야 하는 코드 포인터가 차지하는 비율에 의존한다. 아파치 벤치마킹 실험에서는 약 20%의 실행 시간 부담을 확인하였다. 이는 외부에 노출되는 입출력 위주의 서버 프로그램에 대해 제안하는 방법이 현실적으로 적용 가능함을 보여준다고 할 수 있다.