Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Mapping the Trust Terrain: LLMs in Software Engineering -- Insights and Perspectives

Created by
  • Haebom
Category
Empty

저자

Dipin Khati, Yijin Liu, David N. Palacio, Yixuan Zhang, Denys Poshyvanyk

개요

본 논문은 소프트웨어 공학(SE) 분야에서 대규모 언어 모델(LLM)의 신뢰성 및 신뢰도 확보의 중요성을 강조하며, LLM의 적용이 증가함에 따라 과도한 신뢰로 인한 보안 취약성 및 위험과, 불충분한 신뢰로 인한 혁신 저해를 방지하기 위해 신뢰에 대한 명확한 개념 정립이 필요함을 지적합니다. 이를 위해 논문에서는 소프트웨어 공학 분야의 LLM 관련 논문 18편에 대한 체계적 문헌 검토와 폭넓은 신뢰 관련 문헌 70편을 분석하고, 25명의 전문가 설문 조사를 통해 현황을 분석하고 미래 연구 방향을 제시합니다. 분석 결과는 SE 분야에서 LLM의 신뢰 관련 개념을 다루는 로드맵을 제공하고 향후 연구 분야를 강조합니다.

시사점, 한계점

시사점: SE 분야에서 LLM의 신뢰에 대한 명확한 개념적 기반을 제공하고, 향후 연구 방향을 제시하여 LLM의 안전하고 신뢰할 수 있는 사용을 위한 기초를 마련합니다. 전문가 설문조사를 통해 현장의 요구와 연구 간의 차이를 파악하여 실제적인 지침을 제공합니다.
한계점: 분석에 사용된 논문의 수가 제한적일 수 있으며(88편), 설문조사 참여자 수도 제한적(25명)이어서 일반화 가능성에 한계가 있을 수 있습니다. 또한, 신뢰에 대한 개념 정의가 주관적일 수 있으며, 문화적, 지역적 차이에 따른 신뢰의 차이에 대한 고려가 부족할 수 있습니다.
👍