본 논문은 post-OFDM waveform 후보로 고려 되고 있는 FBMC (filter bank multi-carrier) 시스템에서 다중 프로토타입 필터를 이용하여 QAM 신호를 전송할 수 있는 QAM-FBMC 시스템을 소개한다. 적절한 필터의 설계를 통해 주파수 효율을 높이면서 심볼 간 간섭과 반송파 간 간섭을 제거하며, 기존 CP-OFDM (cyclic prefix-orthogonal frequency division multiplexing)의 BER 성능에 근접한 필터를 설계할 수 있음을 모의 실험을 통해 확인하였다.