소프트웨어 보안을 위한 코드 난독화 도구의 개발

Abstract

프로그램 정적 분석 및 역공학과 같은 소프트웨어 공학 기법은 프로그램의 신뢰성을 개발의 효율성을 향상시킴으로써 소프트웨어 산업 전반의 발전을 가져왔다. 하지만, 불행히도 이러한 기술들이 특정 소프트웨어의 취약성을 발견해내어 불법적인 조작을 가하고 지적재산권을 침해하는 등 악의적인 목적으로 사용될 수 있음은 매우 유감스러운 사실이다. 즉, 이는 소프트웨어 정품의 비밀번호나 트라이얼 버전의 사용 제한 루틴 등의 소프트웨어 보호 장치를 제거할 목적으로 프로그램을 수정하는 소프트웨어 크래킹의 기반 기술로 이용될 수 있다는 것이다. 최근, 서버측 실행, 프로그램 암호화, 단편화 등과 같이 이러한 공격을 막기 위한 노력이 계속되고 있는데, 그 중 코드 난독화는 프로그램의 본래 의미는 보존하되, 공격자가 프로그램을 분석하여 이해하기 어려운 형태로 변환하는 기법으로 소프트웨어 보안상 비용 대비 효과가 큰 것으로 알려져 있다. 본 논문에서는 코드 난독화의 의미와 실행 파일에 난독화를 적용하기 위한 조건이 제시되고, 이 정보를 바탕으로 프로그램 목적 파일에 난독화를 적용하는 링크 시간 바이너리 난독화 도구의 개발 세부 사항을 소개한다. 또한, 개발된 도구는 보안 성능 및 비용의 관점에서 평가가 이루어졌는데, 보안 성능은 사이클로매틱 복잡도를 이용하였고, 비용은 코드 크기 및 실행 속도 변화에 의존하여 측정하였다.