On AI Safety and Security Technical Debt in Engineering AI-Enabled Systems
작성자
카테고리
Empty
저자
Muhammad Tukur, Hayatullahi B. Adeyemo, Tao Chen, Nour Ali, Anis Zarrad, Rick Kazman, Marco Agus, Rami Bahsoon
💡 개요
본 연구는 고위험 분야에 배포되는 AI 시스템의 복잡성과 동적인 특성으로 인해 발생하는 "AI 기술 부채 (AITD)" 문제를 다룹니다. 데이터 거버넌스부터 모델 구현, 운영 프로세스까지 다양한 원인으로 발생하는 AITD는 잠재적이고 전파성이 높아 AI 시스템의 안전 및 보안 위험을 증가시킵니다. AI TRiSM 원칙에 기반하여 본 논문은 31가지 AITD 유형을 식별하고, 6가지 안전 및 12가지 보안 취약점을 포함한 18가지 신뢰 관련 우려 사항과의 연관성을 분석합니다.
🔑 시사점 및 한계
•
AI 시스템의 안전 및 보안 위험 관리의 중요성 부각: AI 기술 부채는 기존 기술 부채와 달리 예측하기 어렵고 치명적인 안전 및 보안 문제로 이어질 수 있음을 강조합니다.
•
체계적인 AI 기술 부채 분류 및 완화 전략 제시: 60편의 논문을 체계적으로 검토하여 AITD의 근본 원인을 분류하고, 예방, 탐지, 감소를 위한 34가지 실행 가능한 가이드라인을 제공합니다.
•
AITD-MAP 프레임워크 제안: AITD 분류, 품질 및 위험 영향, 완화 전략을 통합한 프레임워크를 통해 AI 엔지니어가 기술 부채를 식별하고 관리하도록 지원합니다.
