AI Biases as Asymmetries: A Review to Guide Practice
Created by
- Haebom
Category
Empty
저자
Gabriella Waters, Phillip Honenberger
개요
본 논문은 인공지능(AI) 내 편향에 대한 이해의 변화를 검토합니다. 초기에는 오류나 결함으로 간주되었던 편향이 이제 AI 시스템의 필수적인 부분으로 인식되고 있으며, 때로는 덜 편향된 대안보다 더 선호되기도 합니다. 본 논문에서는 이러한 이해의 변화에 대한 이유를 검토하고, 두 가지 질문에 대한 새로운 지침을 제공합니다. 첫째, 새로운 이해에 따라 AI 시스템의 편향을 어떻게 생각하고 측정해야 하는가? 둘째, AI 시스템의 어떤 종류의 편향을 수용하거나 증폭해야 하고, 어떤 종류의 편향을 최소화하거나 제거해야 하는가, 그리고 그 이유는 무엇인가? 저자는 두 질문 모두에 대한 핵심은 편향을 "대칭성 표준의 위반"으로 이해하는 것이라고 주장합니다. 세 가지 주요 유형의 AI 시스템 비대칭성(오류 편향, 불평등 편향, 프로세스 편향)을 구분하고, 각 유형의 편향이 AI 개발 및 응용 파이프라인에서 유익하거나 해롭거나 불가피할 가능성이 있는 부분을 강조합니다.
시사점, 한계점
•
시사점: AI 시스템 내 편향을 "대칭성 표준의 위반"으로 이해하는 새로운 관점을 제시하여 편향의 종류와 그 영향을 보다 정교하게 분석할 수 있는 틀을 제공합니다. 오류 편향, 불평등 편향, 프로세스 편향을 구분하여 각각의 편향이 AI 개발 및 응용 과정에서 어떻게 작용하는지에 대한 이해를 높입니다. AI 시스템의 편향을 단순히 제거해야 할 대상으로만 보는 것이 아니라, 상황에 따라 수용 또는 증폭해야 할 경우도 있다는 점을 시사합니다.
•
한계점: "대칭성 표준의 위반"이라는 개념이 다소 추상적일 수 있으며, 실제 AI 시스템에 적용하는 데 있어 구체적인 지침이 부족할 수 있습니다. 세 가지 유형의 편향으로 모든 종류의 AI 편향을 포괄적으로 분류할 수 있는지에 대한 추가적인 검토가 필요합니다. 각 유형의 편향이 유익하거나 해롭거나 불가피한 상황에 대한 구체적인 예시가 부족할 수 있습니다.
