설명가능한 인공지능을 위한 특성기여도 분석 방법론 조사

Abstract

인공지능 기반 기술이 사회경제학적으로 큰 영향을 미치는 분야에 활용될 예정임에 따라 인공지능 기술의 안전성 및 신뢰성을 확보하기 위하여 그 판단에 대해 설명하려는 연구들이 이루어져 왔다. 이러한 ‘설명가능한 인공지능’의 일환으로서 인공지능의 입력 특성 각각에 기여도를 부여함으로써 판단을 설명하고자 하는 ‘특성기여도 분석(feature attribution)’ 방법론이 있다. 본 논문에서는 지금까지 개발된 아홉 가지의 대표적인 특성기여도 분석 방법론에 대해 조사하고, 조사된 특성기여도 분석 기법들에 대해 네 가지 서로 다른 분류 기준을 사용하여 분류한다. 이와 같은 분류의 결과로서 지금까지 개발된 특성기여도 분석 방법론들 중 많은 기법이 특정 가정하에서만 적용가능하다는 점, 공리적 정의와 같은 이론적인 배경이 뒷받침되지 않는다는 점 등의 한계점을 확인할 수 있었다. 분류에 대한 분석을 바탕으로 통합된 특성기여도 분석 기법 개발을 위하여 반드시 선행되어야 할 연구방향을 제시한다.