본 논문은 적대적 공격 하에서 신경망의 신뢰성을 향상시키는 데 효과적인 후처리 방법인 준거 예측(Conformal Prediction, CP)의 한계점을 해결하는 새로운 방법을 제안합니다. 기존의 강건한 준거 예측(Robust Conformal Prediction) 방법들은 대규모 문제에서 예측 집합이 너무 크거나 계산 비용이 많다는 단점이 있습니다. 본 논문에서는 Lipschitz-bounded 네트워크를 활용하여 정확하고 효율적으로 강건한 CP 집합을 추정하는 lip-rcp 방법을 제안합니다. ImageNet과 같은 중대규모 시나리오에서 1-Lipschitz 강건 네트워크와 결합하여 기존 최고 성능을 크기와 계산 효율성 면에서 모두 능가함을 보여줍니다. 또한, 적대적 공격 하에서 일반 CP에 대한 새로운 최악의 경우 적용 범위 경계를 도출하여 모든 적대적 공격 수준에 대해 동시에 유효함을 보입니다. lip-rcp 방법은 일반 CP만큼 효율적이면서 강건성 보장도 가능하게 합니다.
시사점, 한계점
•
시사점:
◦
Lipschitz-bounded 네트워크를 활용한 lip-rcp 방법은 기존 강건한 준거 예측 방법들의 단점인 큰 예측 집합 크기 및 높은 계산 비용 문제를 효과적으로 해결합니다.
◦
ImageNet과 같은 대규모 데이터셋에서 기존 최고 성능을 능가하는 성능을 보입니다.
◦
일반 CP에 대한 새로운 최악의 경우 적용 범위 경계를 도출하여 적대적 공격에 대한 이해도를 높였습니다.
◦
lip-rcp 방법은 일반 CP와 동일한 효율성을 유지하면서 강건성을 보장합니다.
•
한계점:
◦
제안된 방법의 성능은 Lipschitz-bounded 네트워크의 성능에 의존적입니다. Lipschitz-bounded 네트워크의 설계 및 학습이 어려울 수 있습니다.
◦
본 논문에서 제시된 최악의 경우 적용 범위 경계는 보수적인 경계일 수 있으며, 실제 적용 시에는 더 작은 예측 집합이 가능할 수 있습니다.
