haebom
Sign In

CauchyNet: Compact and Data-Efficient Learning using Holomorphic Activation Functions

작성자
  • Haebom
카테고리
Empty

저자

Hong-Kun Zhang, Xin Li, Sikun Yang, Zhihong Xia

개요

Cauchy의 적분 공식을 활용한 새로운 신경망인 CauchyNet을 제안합니다. 시계열 예측 및 결측 데이터 보간과 같은 함수 근사 작업에 사용됩니다. CauchyNet은 실수 값을 복소 평면에 임베딩하여 복잡한 시간적 종속성을 효율적으로 포착하며, 예측 성능과 계산 효율성 측면에서 기존의 실수 값 모델을 능가합니다. Cauchy의 적분 공식에 기반하고 보편 근사 정리로 뒷받침되는 CauchyNet은 함수 근사에 대한 강력한 이론적 보장을 제공합니다. 이 아키텍처는 복소수 값 활성화 함수를 통합하여 소형 파라미터 풋프린트와 계산 오버헤드를 줄이면서 불완전한 데이터로부터 강력한 학습을 가능하게 합니다. 교통, 에너지 소비, 역학 데이터를 포함한 다양한 도메인에서 광범위한 실험을 통해 CauchyNet은 예측 정확도에서 최첨단 모델보다 일관되게 우수한 성능을 보이며, 종종 더 적은 파라미터로 평균 절대 오차를 50% 낮춥니다.

시사점, 한계점

•
시사점:
◦
Cauchy의 적분 공식을 활용한 새로운 신경망 아키텍처 제시
◦
시계열 예측 및 결측 데이터 보간 등 다양한 함수 근사 작업에 효과적
◦
기존 모델 대비 우수한 예측 성능과 계산 효율성
◦
불완전한 데이터에서도 강력한 학습 가능
◦
자원 제약 및 데이터 부족 환경에서 효과적인 예측 모델링 도구로 활용 가능성
•
한계점:
◦
논문에 명시된 한계점은 없음
PDF 보기
👍
Made with Slashpage