선택적 릴레이 기반의 협력 멀티캐스트를 이용한 통신 시스템 및 그 방법이 개시된다. 통신 시스템에서 복수의 노드로 데이터를 전송하는 기지국은 노드와의 채널 상태 정보를 수신하는 상태 수신부; 및 데이터를 멀티캐스트 방식으로 전송하되, 노드 중 채널 상태 정보가 임계치 이상인 제1 노드에 하향링크 프레임의 제1 구간에 데이터를 전송하는 데이터 전송부를 포함할 수 있다. 이때, 제1 노드에서는 제1 구간에 데이터를 수신하지 못한 제2 노드의 바운더리 안에 있는 경우 협력 통신을 통해 하향링크 프레임의 제2 구간에 데이터를 제2 노드로 전송할 수 있다.