본 논문은 장문맥락 처리의 중요성을 강조하며, 기존의 복잡한 방법들 대신 단순하고 기존 프레임워크와 호환 가능한 압축 방법인 gisting에 주목합니다. 하지만 gisting은 짧은 지시어에는 효과적이나 긴 맥락에서는 성능 저하가 크다는 것을 보여줍니다. 놀랍게도 단순 평균 풀링(average pooling)이 gisting보다 성능이 뛰어났습니다. 이에 논문은 gisting의 정보 흐름 차단, 용량 제한, 맥락의 하위 집합에 대한 집중력 부족 등의 한계점을 분석합니다. 그리고 이러한 분석을 바탕으로, gisting의 장점은 유지하면서 성능을 크게 향상시킨 새로운 압축 방법인 GistPool을 제안합니다.
