[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Justified Evidence Collection for Argument-based AI Fairness Assurance

Created by
  • Haebom

저자

Alpay Sabuncuoglu, Christopher Burr, Carsten Maple

개요

본 논문은 AI 시스템의 공정성을 확보하기 위한 시스템 엔지니어링 기반 프레임워크를 제시합니다. 동적 논증 기반 보증 사례를 활용하여 AI 시스템 개발 전반에 걸쳐 안전성 및 공정성 위험을 평가하고 완화하는 접근 방식을 제시합니다. 요구사항 계획 단계에서는 다학제적이고 다 이해관계자 팀이 공정한 거버넌스 프로세스를 통해 목표와 주장을 정의하고, 이후 지속적인 모니터링 인터페이스를 통해 모델, 데이터, 사용 사례 문서 등 기존 아티팩트에서 증거를 수집하여 주장을 동적으로 뒷받침합니다. 금융 분야의 사례 연구를 통해 프레임워크의 효과를 보여줍니다.

시사점, 한계점

시사점:
AI 시스템의 공정성을 체계적으로 평가하고 관리하는 시스템 엔지니어링 기반 프레임워크 제공
동적 논증 기반 보증 사례를 활용하여 지속적인 모니터링 및 위험 완화 가능
다학제적이고 다 이해관계자 참여를 통한 포괄적인 공정성 거버넌스 프로세스 지원
소프트웨어 툴을 통한 프레임워크의 실용적인 구현 가능성 제시
금융 분야 사례 연구를 통한 프레임워크의 실효성 검증
한계점:
제시된 프레임워크의 적용 가능성이 금융 분야 사례 연구에 국한됨. 다른 도메인으로의 일반화 가능성에 대한 추가 연구 필요
다양한 유형의 공정성 위험 및 편향에 대한 포괄적인 처리 여부에 대한 추가 검토 필요
소프트웨어 툴의 구체적인 기능 및 성능에 대한 상세한 설명 부족
프레임워크 구현 및 운영에 필요한 자원 및 전문성에 대한 고려 부족
👍