Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Steering Large Language Models for Machine Translation Personalization

Created by
  • Haebom

저자

Daniel Scalena, Gabriele Sarti, Arianna Bisazza, Elisabetta Fersini, Malvina Nissim

개요

본 논문은 대규모 언어 모델(LLM) 기반의 고품질 기계 번역 시스템이 특정 스타일 제약을 반영하는 개인화된 번역 생성을 단순화했지만, 스타일 요구사항이 명시적이지 않고 프롬프트를 통해 전달하기 어려운 환경에서는 여전히 어려움을 겪는다는 점을 다룹니다. 특히 저자원 환경의 어려운 문학 번역 분야에 초점을 맞춰 LLM 생성 번역을 개인화하기 위한 다양한 전략을 탐구합니다. 모델 생성을 개인화된 스타일로 유도하기 위한 프롬프팅 전략과 추론 시간 개입을 탐색하고, 희소 오토인코더에서 추출한 잠재 개념을 활용하는 대조적 프레임워크를 제안하여 중요한 개인화 특성을 식별합니다. 실험 결과, 유도 방식이 번역 품질을 유지하면서 강력한 개인화를 달성함을 보여줍니다. 또한, 유도가 LLM 표현에 미치는 영향을 조사하여, 개인화에 관련된 영향을 미치는 모델 레이어가 다중 샷 프롬프팅과 제안된 유도 방법에 의해 유사하게 영향을 받는다는 것을 발견하여 유사한 메커니즘이 작용함을 시사합니다.

시사점, 한계점

시사점: 저자원 환경의 문학 번역에서 LLM 기반 기계 번역의 개인화를 위한 효과적인 프롬프팅 전략 및 추론 시간 개입 방법 제시. 희소 오토인코더 기반 대조적 프레임워크를 통한 개인화 특성 식별 가능성 제시. 유도 방식이 번역 품질 저하 없이 개인화를 달성함을 실험적으로 증명. 다중 샷 프롬프팅과 제안된 유도 방법의 유사한 메커니즘을 통한 LLM 표현 변화 분석.
한계점: 본 연구는 특정 저자원 환경의 문학 번역에 초점을 맞추었으므로, 다른 도메인이나 고자원 환경으로의 일반화 가능성에 대한 추가 연구 필요. 제안된 프롬프팅 전략 및 추론 시간 개입의 효율성 및 확장성에 대한 추가적인 분석 필요. 희소 오토인코더를 이용한 잠재 개념 추출의 한계 및 개선 방안에 대한 추가 연구 필요. 다양한 스타일의 개인화에 대한 포괄적인 평가가 부족.
👍