시계열 데이터 기반의 인공신경망 설명 방법 및 장치가 개시된다. 일 실시예에 따른 시계열 데이터 기반의 인공신경망 설명 방법은 인공신경망의 각 레이어 별로, 미리 정해진 조건을 만족하는 복수의 활성화 노드들을 탐색하는 단계, 인공신경망의 수용 영역(receptive field)에 기초하여, 활성화 노드들을 입력 시계열 데이터에 매핑하여 복수의 서브 시퀀스들(sub-sequences)을 추출하는 단계 및 서브 시퀀스들에 기초하여, 활성화 노드를 입력 시계열 데이터와 매핑하여 시각화(visualization)하는 단계를 포함한다.