본 발명의 실시 예에 따른 연산 장치는, 제1 데이터의 제1 부호 비트 및 제1 지수 비트들, 그리고 제2 데이터의 제2 부호 비트 및 제2 지수 비트들을 기반으로 희소성 데이터를 생성하도록 구성된 제1 연산 코어, 및 희소성 데이터를 기반으로, 제1 데이터 및 제2 데이터의 부동 소수점 연산의 결과 값을 출력 데이터로서 출력하거나, 또는 부동 소수점 연산을 생략하고 미리 정해진 값을 출력 데이터로서 출력하도록 구성된 제2 연산 코어를 포함한다.