시계열 심층학습 모델의 은닉 노드에 대한 시각화

Abstract

산업, 의료, 금융 등 다양한 분야에서 인공지능을 활용한 예측 및 진단이 늘어나면서, 인공지능의 내부 작동원리를 설명하는 연구에도 관심이 높아지고 있다. 이미지 데이터에서 중요 입력 특징점을 시각화하는 기존 연구들과 다르게, 본 논문에서는 시계열 데이터의 은닉 노드를 시각화하여 심층신경망 내부의 작동원리를 설명한다. 본 논문은 은닉 노드의 시각화를 쉽게 하도록 가중치 행렬(weight matrix)을 기준으로 은닉 노드를 군집화하여 패턴을 파악하였다. 이를 통해 심층학습 모델의 작동원리를 설명할 뿐만 아니라, 사용자 수준에서 시계열 데이터에 대한 이해를 높일 수 있었다.