Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Explainable Artificial Intelligence Techniques for Software Development Lifecycle: A Phase-specific Survey

Created by
  • Haebom

저자

Lakshit Arora, Sanjay Surendranath Girija, Shashank Kapoor, Aman Raj, Dipen Pradhan, Ankit Shetgaonkar

개요

본 논문은 인공지능(AI)의 일상생활 깊숙한 통합과 그에 따른 '블랙박스 문제'를 해결하기 위한 설명 가능한 인공지능(XAI)의 중요성을 강조합니다. 특히 소프트웨어 개발 생명주기(SDLC) 전 단계에 걸친 XAI 기법 적용을 종합적으로 조사하여, 요구사항 도출, 설계 및 개발, 테스트 및 배포, 그리고 진화 단계별 XAI 방법(개념 기반 설명, LIME, SHAP, 규칙 추출, 어텐션 메커니즘, 반실례 설명, 사례 기반 설명 등)의 적용 현황을 분석합니다. 기존 연구가 유지보수 단계에 집중된 것과 달리, 본 논문은 SDLC 전 단계에 대한 XAI 적용을 포괄적으로 다루는 최초의 종합 조사 논문임을 주장합니다. 이를 통해 소프트웨어 엔지니어링 분야에서 XAI의 활용을 증진시키고, 복잡한 AI 모델의 실질적인 적용을 촉진하는 것을 목표로 합니다.

시사점, 한계점

시사점:
SDLC 전 단계에 걸친 XAI 기법 적용 현황에 대한 최초의 종합적인 조사 제공
소프트웨어 엔지니어링 분야에서 XAI의 활용 증진 및 AI 기반 소프트웨어 개발에서 복잡한 AI 모델의 실질적 적용 촉진
기존 연구의 편향성(유지보수 단계 집중)을 보완하고, 요구사항, 설계, 테스트 등 다른 단계에서의 XAI 적용 가능성 제시
한계점:
본 논문에서 제시된 XAI 기법들의 실제 효과 및 한계에 대한 심층적인 분석 부족
각 SDLC 단계별 XAI 기법 적용의 구체적인 사례 연구 및 실증 결과 제시 부족
다양한 XAI 기법들의 비교 분석 및 최적 기법 선택에 대한 가이드라인 부재
👍