Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OrgAccess: A Benchmark for Role Based Access Control in Organization Scale LLMs

Created by
  • Haebom

저자

Debdeep Sanyal Umakanta Maharana, Yash Sinha, Hong Ming Tan, Shirish Karande, Mohan Kankanhalli, Murari Mandal

개요

본 논문은 대규모 언어 모델(LLM)이 기업 환경에서 계층적 구조와 역할 기반 접근 제어(RBAC)를 준수하며 작동할 수 있는지 평가하기 위한 새로운 벤치마크인 OrgAccess를 제시합니다. OrgAccess는 다양한 조직의 역할과 수준에 일반적으로 관련된 40가지 유형의 권한으로 구성되며, 난이도에 따라 세 가지 유형(쉬움, 중간, 어려움)의 권한 집합을 제공합니다. 실험 결과, 최첨단 LLM인 GPT-4.1조차도 가장 어려운 벤치마크에서 F1-Score 0.27에 그치는 등 복잡한 규칙 준수 및 구성적 추론 능력에 한계를 보였습니다. 이는 LLM의 실제 구조화된 환경 적용 가능성에 대한 새로운 평가 기준을 제시합니다.

시사점, 한계점

시사점:
LLM의 복잡한 규칙 준수 및 구성적 추론 능력에 대한 새로운 평가 기준을 제시합니다.
실제 기업 환경에서 LLM 적용의 어려움과 한계를 명확히 보여줍니다.
LLM의 RBAC 및 계층적 구조 이해 및 준수 능력 향상에 대한 연구 필요성을 강조합니다.
기존의 사실 기반 또는 STEM 기반 벤치마크를 넘어선 LLM 평가의 새로운 패러다임을 제시합니다.
한계점:
OrgAccess 벤치마크는 합성 데이터를 기반으로 하므로 실제 기업 환경의 복잡성을 완벽하게 반영하지 못할 수 있습니다.
평가에 사용된 LLM이 제한적일 수 있으며, 다른 LLM 또는 향상된 LLM의 성능은 다를 수 있습니다.
실제 기업 데이터와 접근 제어 정책의 기밀성으로 인해 실제 환경에서의 검증이 어려울 수 있습니다.
👍