Prototype Transformer: Towards Language Model Architectures Interpretable by Design

Created by

Haebom

저자

Yordan Yordanov, Matteo Forasassi, Bayar Menzat, Ruizhi Wang, Chang Qi, Markus Kaltenberger, Amine M'Charrak, Tommaso Salvatori, Thomas Lukasiewicz

💡 개요

본 논문은 기존 트랜스포머 모델의 불투명한 추론 과정을 해결하기 위해 '프로토타입 트랜스포머(ProtoT)'라는 새로운 언어 모델 아키텍처를 제안한다. ProtoT는 입력 시퀀스와 학습 가능한 파라미터 벡터인 '프로토타입' 간의 양방향 통신을 통해 이름 붙일 수 있는 개념을 자동으로 포착하며, 이를 통해 모델의 추론 과정을 해석하고 행동을 제어할 수 있는 가능성을 제시한다.

🔑 시사점 및 한계

•

해석 가능한 추론: ProtoT는 프로토타입을 통해 학습 과정에서 명확한 개념을 포착하고, 이를 바탕으로 모델의 추론 경로를 해석할 수 있는 "디자인에 의한 해석 가능성"을 제공한다.

•

효율적인 계산 및 확장성: 기존 트랜스포머의 이차적 복잡성과 달리, ProtoT는 시퀀스 길이에 대해 선형적으로 확장되며 모델 및 데이터 크기에 잘 대응하여 계산 효율성을 높인다.

•

행동 제어 및 편집 가능성: 프로토타입을 통해 모델의 특정 행동을 타겟팅하여 수정하거나 제어할 수 있는 잠재력을 제공하여, 환각이나 기만과 같은 위험을 줄이는 데 기여할 수 있다.

•

성능: ProtoT는 텍스트 생성 및 GLUE와 같은 다운스트림 태스크에서 준수한 성능을 보이며, 기존 최첨단 아키텍처에 근접하는 결과를 달성했다.

•

강건성: 입력 교란에 대한 강건성이 뛰어나며, 이러한 강건성과 민감성이 발생하는 경로를 해석 가능하게 보여준다.

PDF 보기

Made with Slashpage