# $\alpha$-GAN by R\'{e}nyi Cross Entropy

### 저자

Ni Ding, Miao Qiao, Jiaxing Xu, Yiping Ke, Xiaoyu Zhang

### 개요

본 논문은 Rényi 측도를 사용하는 생성적 적대 신경망인 α-GAN을 제안합니다.  판별자가 샘플의 출처(진짜 데이터 또는 생성된 데이터)를 판단하는 소프트 의사결정에 따른 기대 확실성 척도로 Rényi 교차 엔트로피를 사용하여 값 함수를 공식화합니다. 판별자는 샘플 출처에 대한 Rényi 확실성을 극대화하려고 시도하고, 생성자는 가짜 샘플을 주입하여 이를 줄이려고 합니다. 이는 Rényi 차수 α로 매개변수화된 해를 갖는 min-max 문제를 형성합니다. α = 1일 때 α-GAN은 일반 GAN으로 축소되며, 값 함수는 이진 교차 엔트로피와 정확히 일치합니다. α-GAN의 최적화는 확률(벡터) 공간에서 이루어집니다. Rényi 차수가 α ∈ (0, 1) 범위에 있을 때 기울기가 기하급수적으로 확대됨을 보여줍니다. 이는 실험 결과에서 확인된 것처럼 수렴 속도를 높입니다. 논의를 통해 α ∈ (0, 1)을 선택하면 사라지는 기울기와 같은 일반적인 문제를 해결할 수 있음을 보여줍니다.  후속 관찰은 이 범위가 기존 Rényi 버전 GAN에서 완전히 탐색되지 않았음을 보여줍니다.

### 시사점, 한계점

- **시사점:**

    - Rényi 측도를 활용하여 GAN의 성능을 향상시키는 새로운 방법 제시

    - α 값 조절을 통해 기울기 소멸 문제 해결 가능성 제시

    - α ∈ (0, 1) 범위에서 기울기가 기하급수적으로 증가하여 수렴 속도 향상

    - 기존 Rényi GAN 연구의 한계를 지적하고 새로운 연구 방향 제시

- **한계점:**

    - 제안된 α-GAN의 성능이 다른 GAN 모델에 비해 얼마나 우수한지에 대한 종합적인 비교 분석 부족

    - α 값의 최적 선택 기준에 대한 명확한 제시 부족

    - 다양한 데이터셋에 대한 실험 결과 제한적

    - α ∈ (0, 1) 범위에 대한 이론적 분석이 더 필요

[PDF 보기](https://arxiv.org/pdf/2505.14190)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).