본 논문은 현대 BPE 토크나이저가 날짜를 의미 없는 조각으로 분할하는 문제점을 다룹니다. 이를 해결하기 위해, 날짜 분할 비율이라는 새로운 지표를 제시하고, 세 가지 시간 추론 과제(문맥 기반 날짜 해석, 형식 불변 퍼즐, 역사적/현대적/미래적 시간대에 걸친 날짜 연산)를 포함하는 DateAugBench라는 데이터셋을 공개합니다. 또한, 대규모 언어 모델(LLM)이 날짜 조각을 조합하여 시간 추론을 수행하는 과정을 계층별 조사 및 인과적 어텐션-홉 분석을 통해 밝히고, 과도한 날짜 분할이 특히 드문 날짜(역사적, 미래적 날짜)에서 정확도 저하를 야기함을 보여줍니다. 마지막으로, LLM이 날짜 조각을 조합하는 과정이 사람의 해석 방식(년 → 월 → 일)과 다름을 확인합니다. 데이터셋과 코드는 공개적으로 제공됩니다.
