명확한 프로토콜 사양 추출을 위한 프로토콜 리버스 엔지니어링 방법

Abstract

인터넷 트래픽 발생량이 비대해지고, 새로운 응용 및 악성 행위가 지속적으로 출현함에 따라 이를 분석해야할 트래픽이 급증하고 있다. 이러한 환경 하에 발생하는 복잡 다양한 프로토콜 중 다수는 알려지지 않았거나 최소한으로 문서화되어 있는 비공개 프로토콜이다. 효율적인 네트워크 관리 및 보안을 위해 비공개 프로토콜의 구조 분석은 반드시 선행되어야 한다. 이를 위해 많은 프로토콜 리버스 엔지니어링 방법론이 제안되었지만, 적용하기에 각기 다른 단점이 존재한다. 이러한 단점을 해결하기 위해 본 논문에서는 네트워크 트레이스 분석 기반의 명확한 프로토콜 리버스 엔지니어링 시스템을 위한 방법론을 제안한다. 제안하는 방법론은 비공개 프로토콜의 직관적이며 정교한 Field Format, Message Format, Flow Format과 유한 상태 머신을 출력할 수 있다. 본 논문에서는 HTTP 프로토콜의 예를 통해 제안하는 방법론의 우수성을 설명한다.