Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OrgAccess: A Benchmark for Role Based Access Control in Organization Scale LLMs

Created by
  • Haebom

저자

Debdeep Sanyal, Umakanta Maharana, Yash Sinha, Hong Ming Tan, Shirish Karande, Mohan Kankanhalli, Murari Mandal

개요

본 논문은 대규모 언어 모델(LLM)이 기업 환경에서 계층적 구조와 역할 기반 접근 제어(RBAC)를 기반으로 한 복잡한 권한 시스템 내에서 안정적으로 작동할 수 있는지 평가하는 것을 목표로 한다. 실제 기업 데이터의 기밀성으로 인해 평가가 어려운 점을 고려하여, 40가지 유형의 권한을 포함하는 합성 벤치마크 OrgAccess를 제시한다. 이 벤치마크는 난이도에 따라 쉬움(1개 권한), 보통(3개 권한 조합), 어려움(5개 권한 조합)의 세 가지 유형으로 구성되며, LLM이 복잡한 권한 상황에서도 규칙을 준수하는 능력을 평가한다. 실험 결과, 최첨단 LLM인 GPT-4.1조차도 가장 어려운 벤치마크에서 F1 점수 0.27에 그치는 등 복잡한 규칙 준수 및 추론 능력에 한계를 드러냈다. 이는 LLM의 실제 구조화된 환경 적용 가능성을 평가하는 새로운 기준을 제시한다.

시사점, 한계점

시사점:
LLM의 복잡한 규칙 준수 및 추론 능력에 대한 새로운 평가 기준 제시
실제 기업 환경에서 LLM 적용의 어려움과 한계를 명확히 제시
OrgAccess 벤치마크를 통해 LLM의 RBAC 및 계층 구조 이해 능력 평가 가능
LLM 기반 시스템 개발 시 RBAC 및 권한 관리 시스템의 중요성 강조
한계점:
OrgAccess 벤치마크는 합성 데이터 기반으로, 실제 기업 환경과의 차이 존재 가능성
평가 대상 LLM이 제한적일 수 있음
다양한 유형의 조직 구조 및 권한 시스템을 모두 포괄하지 못할 수 있음
👍