사전학습 인코더 기반의 생성적 요약에서 구문과 의미 특질의 영향에 대한 연구

Abstract

생성적 문서 요약이란 자연언어로 구성된 원문에서 핵심 정보가 나오는 부분을 추출하는 추출적 요약과 달리 원문과 다른 표현으로 요약문을 생성하는 문제이다. 이 문제를 풀기 위해서 여러 연구에서 구조 기반, 의미론 기반 분석 결과를 활용한 연구가 진행되어 왔고, 최근에는 언어 모델의 발전으로 seq2seq 구조의 방식이 연구되었다. 그러나 seq2seq 구조에서는 주어-술어 불일치, 중요 내용 파악, 같은 글자 반복, [UNK] 생성 등의 문제가 생긴다. 본 연구에서는 이런 문제를 개선하기 위해 사전학습 인코더를 활용한 인코더-디코더 구조의 모델에 구문, 의미 정보 추가와 원문 비교를 통한 단어 교정을 결합하여 성능을 향상시키는 법을 제시하고 각각의 방법이 끼치는 영향에 대해서 분석한다.