본 논문은 윤리적으로 정렬된 시스템을 구축하기 위해 요구사항 도출 과정에 윤리를 통합하는 프레임워크를 제안합니다. 다수 이해관계자의 다양한 의견 수렴이 필요한 수동 윤리 요구사항 도출의 어려움을 해결하기 위해, 다중 에이전트 LLM 환경에서 윤리적 옹호자 에이전트를 도입하여 윤리 요구사항 초안을 생성하는 프레임워크를 제시합니다. 이 에이전트는 시스템 설명을 기반으로 윤리적 문제에 대한 비판 및 의견을 제공합니다. 두 가지 사례 연구를 통해 제안된 프레임워크를 평가한 결과, 30분 인터뷰에서 연구원들이 확인한 윤리 요구사항의 대부분을 포착하고 몇 가지 추가적인 관련 요구사항을 제시하는 것으로 나타났습니다. 하지만 윤리 요구사항 생성에서 신뢰성 문제를 강조하며, 이러한 민감한 영역에서 인간의 피드백이 필요함을 보여줍니다.
