Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Role-Aware Language Models for Secure and Contextualized Access Control in Organizations

Created by
  • Haebom

作者

Saeed Almheiri, Yerulan Kongrat, Adrian Santosh, Ruslan Tasmukhanov, Josemaria Loza Vera, Muhammad Dehan Al Kautsar, Fajri Koto

概要

本論文は、企業環境で徐々に展開されている大規模言語モデル(LLM)の役割ベースのアクセス制御に関する研究を扱います。既存の安全メカニズムは、一般的なアクセス権を想定し、有害なまたは悪意のある出力を防ぐことに焦点を当てていますが、役割固有のアクセス制限をカバーしていません。この研究は、LLMを微調整して、さまざまな組織の役割に関連するアクセス権を反映する応答を生成できるかどうかを調べます。 BERTベースの分類器、LLMベースの分類器、役割条件付き生成という3つのモデリング戦略を探求し、既存のinstruction-tuningコーパスをクラスタリングおよび役割ラベリングを通じて適用したデータセットと現実的な役割敏感な企業シナリオを反映して合成的に生成したデータセットの2つを使用してモデル性能を評価する。また、さまざまな組織構造のモデル性能とプロンプトの挿入、役割の不整合、脱獄の試みに対する堅牢性を分析します。

Takeaways、Limitations

Takeaways:
企業環境におけるLLMの役割ベースのアクセス制御のための新しいモデリング戦略の提示
さまざまな役割に応じたアクセス権を反映したLLMレスポンスの生成可能性の確認
プロンプトの挿入、役割の不一致、脱獄の試みに関するモデルの堅牢性分析による安全性の向上に貢献
実際の企業シナリオを反映した合成データセットの生成方法の提示
Limitations:
使用されたデータセットの規模と多様性の明確な提示の欠如
実際の企業環境での適用可能性の追加検証が必要
特定の役割に対するアクセス制御の精度と効率に関する追加の分析が必要
各種組織構造の一般化性能評価の詳細不足
👍