설명가능한 인공지능을 위한 특성기여도 분석 방법론 조사Survey on Feature Attribution Methods in Explainable AI

Cited 0 time in webofscience Cited 0 time in scopus
  • Hit : 18
  • Download : 0
인공지능 기반 기술이 사회경제학적으로 큰 영향을 미치는 분야에 활용될 예정임에 따라 인공지능 기술의 안전성 및 신뢰성을 확보하기 위하여 그 판단에 대해 설명하려는 연구들이 이루어져 왔다. 이러한 ‘설명가능한 인공지능’의 일환으로서 인공지능의 입력 특성 각각에 기여도를 부여함으로써 판단을 설명하고자 하는 ‘특성기여도 분석(feature attribution)’ 방법론이 있다. 본 논문에서는 지금까지 개발된 아홉 가지의 대표적인 특성기여도 분석 방법론에 대해 조사하고, 조사된 특성기여도 분석 기법들에 대해 네 가지 서로 다른 분류 기준을 사용하여 분류한다. 이와 같은 분류의 결과로서 지금까지 개발된 특성기여도 분석 방법론들 중 많은 기법이 특정 가정하에서만 적용가능하다는 점, 공리적 정의와 같은 이론적인 배경이 뒷받침되지 않는다는 점 등의 한계점을 확인할 수 있었다. 분류에 대한 분석을 바탕으로 통합된 특성기여도 분석 기법 개발을 위하여 반드시 선행되어야 할 연구방향을 제시한다.
Publisher
한국정보과학회
Issue Date
2020-12
Language
Korean
Citation

정보과학회논문지, v.47, no.12, pp.1181 - 1191

ISSN
2383-630X
DOI
10.5626/JOK.2020.47.12.1181
URI
http://hdl.handle.net/10203/281143
Appears in Collection
Files in This Item
There are no files associated with this item.

qr_code

  • mendeley

    citeulike


rss_1.0 rss_2.0 atom_1.0