Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Models Got Talent: Identifying High Performing Wearable Human Activity Recognition Models Without Training

Created by
  • Haebom
Category
Empty

저자

Richard Goldman, Varun Komperla, Thomas Ploetz, Harish Haresamudram

개요

Zero Cost Proxies (ZCPs)를 활용하여 계산 비용이 높은 Neural Architecture Search (NAS)의 대안을 제시한다. ZCPs는 훈련된 성능과 상관관계가 높으면서, 무작위로 샘플링된 데이터 배치에 대한 단일 forward/backward pass를 통해 계산할 수 있다. 본 논문은 6개의 벤치마크 데이터셋에서 HAR (Human Activity Recognition)을 위해 ZCPs의 효과를 연구하고, 1500개의 무작위로 샘플링된 아키텍처를 포함하는 전체 규모 훈련으로 얻은 성능의 5% 이내의 성능을 달성하는 네트워크 아키텍처를 발견함을 보여준다. 또한 ZCPs가 데이터 노이즈에 강건함을 입증하여 실제 시나리오에 적합함을 강조한다.

시사점, 한계점

ZCPs를 활용하여 HAR 분야에서 효율적인 아키텍처 탐색 가능성을 제시함.
최소한의 훈련으로 높은 성능의 아키텍처를 발견하여 계산 비용을 절감.
데이터 노이즈에 대한 강건성을 보임.
6개의 벤치마크 데이터셋에 국한된 실험으로, 일반화 가능성에 대한 추가 연구 필요.
성능이 전체 규모 훈련 대비 5% 이내로 제한됨.
👍