Safety Is Not Universal: The Selective Safety Trap in LLM Alignment

Thu, 30 Apr 2026 07:44:59 GMT

### 저자

Iago Alves Brito, Walcy Santos Rezende Rios, Julia Soares Dollis, Diogo Fernandes Costa Silva, Arlindo Rodrigues Galvao Filho

### 💡 개요

본 논문은 현재 LLM 안전성 평가 방식이 일반적인 유해 범주로 집계하면서 특정 집단에 대한 취약성을 간과하는 "선택적 안전 함정(Selective Safety Trap)"을 지적합니다. 이를 분석하기 위해 저자는 16개 소수 집단을 대상으로 43,961개의 프롬프트를 포함하는 이중 언어(영어-포르투갈어) 벤치마크인 MiJaBench를 개발했으며, 최신 LLM 14종을 평가한 결과 모델의 안전성 정렬이 보편적인 능력이 아니라 인구 통계학적 계층 구조를 가지며, 특정 그룹에 대한 방어율이 최대 42%까지 차이나는 것을 발견했습니다.

### 🔑 시사점 및 한계

- LLM 안전성 평가는 다양한 인구 집단을 포괄하는 보다 세분화된 접근 방식이 필요합니다.

- 현재의 안전성 정렬 방법은 일반적인 유해성을 학습하기보다 특정 그룹에 특화된 방어 체계를 구축하는 경향이 있습니다.

- 연구 결과는 인구 통계학적 차이에 따른 LLM 안전성 불평등 문제를 명확히 보여주며, 이를 해결하기 위한 새로운 방법론 개발의 필요성을 시사합니다.

- 향후 연구에서는 더욱 다양한 언어와 문화적 맥락을 포괄하는 벤치마크 개발 및 그룹 간 안전성 격차를 줄이는 보편적인 정렬 방법론 탐구가 필요합니다.

[PDF 보기](https://arxiv.org/pdf/2601.04389)