# Access Controls Will Solve the Dual-Use Dilemma

### 저자

Ev\v{z}en Wybitul

### 개요

본 논문은 AI 안전 시스템이 직면한 이중 사용 딜레마, 즉 요청의 무해성 여부를 판단하기 어려워 부당한 거부 또는 허용으로 인해 유용성과 안전성 모두를 해칠 수 있다는 문제를 다룹니다.  기존 시스템은 실세계 맥락 정보에 접근하지 못해 이 문제를 해결하지 못하지만, 본 논문은 검증된 사용자만 이중 사용 출력에 접근할 수 있도록 하는 접근 제어 기반의 개념적 프레임워크를 제안합니다.  이 프레임워크의 구성 요소를 설명하고, 실현 가능성을 분석하며, 과도한 거부와 부족한 거부 모두를 어떻게 해결하는지 설명합니다.  고차원적인 제안이지만, 이중 사용 콘텐츠 관리를 위한 더 나은 도구를 통해 모델 제공자는 안전을 희생하지 않고 사용자에게 더 많은 기능을 제공하고, 규제 기관에게 더욱 표적화된 정책을 위한 새로운 옵션을 제공할 수 있다는 점에서 의의가 있습니다.

### 시사점, 한계점

- **시사점:**

    - AI 안전 시스템의 이중 사용 딜레마에 대한 새로운 접근 방식 제시.

    - 접근 제어 기반 프레임워크를 통해 과도한 거부 및 부족한 거부 문제 해결 가능성 제시.

    - 모델 제공자와 규제 기관에게 더 나은 안전 관리 도구 제공 가능성 제시.

    - AI 모델의 기능 확장과 안전성 향상을 동시에 추구할 수 있는 가능성 제시.

- **한계점:**

    - 고차원적인 개념적 프레임워크 제안으로, 구체적인 구현 방안 및 기술적 세부 사항은 부족.

    - 사용자 검증 및 접근 제어의 실제 구현에 대한 어려움 및 보안 문제 고려 필요.

    - 다양한 유형의 AI 모델 및 응용 분야에 대한 적용 가능성 검증 필요.

    - 실제 시스템 구축 및 평가를 통한 효과 검증 필요.

[PDF 보기](https://arxiv.org/pdf/2505.09341)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).