본 논문은 SemEval-2025 Task 6 (PromiseEval)에 대한 접근 방식을 제시하며, 기업 ESG 보고서 내 약속 검증에 초점을 맞춥니다. 약속 식별, 근거 평가, 명확성 평가, 검증 시점 등 네 가지 하위 작업을 해결하기 위해 세 가지 모델 아키텍처를 탐구합니다. 첫 번째 모델은 작업별 분류기 헤드를 사용하는 ESG-BERT를 사용하고, 두 번째 모델은 각 하위 작업에 맞춘 언어적 특징을 추가합니다. 세 번째 모델은 어텐션 기반 시퀀스 풀링, 문서 메타데이터가 추가된 트랜스포머 표현, 다중 목표 학습을 사용하는 통합 하위 작업 모델을 구현합니다. ML-Promise 데이터셋의 영어 부분에 대한 실험 결과, 모델 간 점진적인 성능 향상을 보이며, 통합 하위 작업 접근 방식은 0.5268의 리더보드 점수를 달성하여 기본 모델(0.5227)을 능가합니다. 본 연구는 클래스 불균형과 제한된 훈련 데이터의 어려움에도 불구하고, 약속 검증 작업에서 언어적 특징 추출, 어텐션 풀링, 다중 목표 학습의 효과를 강조합니다.
