적대적 예제를 활용한 딥러닝에 대한 공격 기술 연구 동향

Abstract

최근 많은 분야에서 큰 성공을 거두고 있는 딥러닝 기술은 적대적 예제를 활용한 공격 등에 취약하다. 적대적 예제를 활용한 공격이란 정상적인 입력에 사람의 눈으로 식별되지 않을 만큼 작은 노이즈를 추가해서 딥러닝 모델을 속이는 공격이다. 이러한 공격은 치명적인 결과를 초래할 수 있는데, 예를 들어 교통 표지판에 작은 노이즈를 추가해 자율주행에서 사용되는 딥러닝 모델을 공격하면 교통사고를 유발할 수 있다. 이렇듯 잠재적 위험성이 높은 적대적 예제를 활용한 공격은 세계적으로 활발히 연구되고 있음에도 아직 국내에는 이에 관한 체계적인 정리가 부족하다. 따라서 본 논문에서는 딥러닝에 대한 적대적 예제를 활용한 공격의 최신 연구 동향을 조사 및 정리한 후 한계점 및 향후 연구를 제안하여 해당 연구의 발전을 도모하고자 한다.