본 논문은 다중 작업 학습(MTL)에서 여러 작업 간의 목표 차이로 인해 발생하는 부정적 전이 문제를 해결하기 위해, 트랜스포머 기반 MTL 아키텍처에 적용 가능한 동적 토큰 변조 및 확장(DTME-MTL) 프레임워크를 제안합니다. 기존의 고정된 네트워크 용량과 구조의 한계를 극복하기 위해, DTME-MTL은 토큰 공간에서 기울기 충돌을 식별하고 충돌 유형에 따라 적응적인 해결책을 적용하여 적응성을 높이고 과적합을 줄입니다. 네트워크 매개변수를 복제하는 기존 방법과 달리, 토큰 공간에서만 동작하여 매개변수 증가 없이 효율적인 적응을 가능하게 합니다. 실험 결과, DTME-MTL은 최소한의 계산 오버헤드로 다중 작업 성능을 향상시키는 확장 가능하고 효과적인 솔루션임을 보여줍니다.
