Sign In

Personas Evolved: Designing Ethical LLM-Based Conversational Agent Personalities

Created by
  • Haebom
Category
Empty

저자

Smit Desai, Mateusz Dubiel, Nima Zargham, Thomas Mildner, Laura Spillner

개요

대규모 언어 모델(LLM) 기반의 대화형 사용자 인터페이스(CUI)는 사회과학, 의료 등 다양한 분야에서 역동적이고 상황 인식적인 인간과 같은 상호작용을 가능하게 하였으나, 편향, 조작, 예측 불가능한 사회적 결과 등 윤리적, 실질적 문제를 야기한다. 기존 CUI와 달리 LLM 기반 페르소나는 방대한 데이터셋으로부터 동적으로 응답을 생성하여 행동 예측 및 관리가 어렵다. 본 워크숍은 CUI와 광범위한 AI 커뮤니티 간의 간극을 해소하고, LLM 기반 페르소나의 책임 있는 설계 및 평가에 대한 학제 간 대화를 촉진하고자 한다. 연구자, 디자이너, 실무자를 한자리에 모아 최선의 사례를 탐구하고, 윤리적 지침을 개발하며, 투명성, 포용성, 사용자 중심 상호 작용을 보장하는 프레임워크를 홍보하여 사회적 가치와 기대에 부합하는 LLM 기반 CUI의 미래를 만들고자 한다.

시사점, 한계점

시사점: LLM 기반 CUI의 윤리적, 실질적 문제에 대한 학제 간 논의 및 협력의 필요성 제기, 책임 있는 설계 및 평가를 위한 최선의 사례, 윤리적 지침, 프레임워크 개발, 투명성, 포용성, 사용자 중심 상호작용 강조.
한계점: LLM 기반 페르소나의 예측 불가능한 행동에 대한 구체적인 해결 방안 제시 부족, 실제 적용 사례 및 구체적인 윤리적 지침 부재, 다양한 분야의 이해관계자 간의 협력 및 합의 도출 과정의 어려움.
👍