[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Assessing the Performance of Analog Training for Transfer Learning

Created by
  • Haebom

저자

Omobayode Fagbohungbe, Corey Lammie, Malte J. Rasch, Takashi Ando, Tayfun Gokmen, Vijay Narayanan

개요

본 논문은 아날로그 인메모리 컴퓨팅을 이용한 빠르고 병렬적이며 에너지 효율적인 심층 학습 훈련 및 전이 학습(TL)을 위한 새로운 알고리즘인 chopped TTv2 (c-TTv2)를 제안하고 평가한다. 기존 알고리즘들이 아날로그 메모리 소자의 비대칭적이고 비선형적인 특성 및 소자 간 변동성으로 인해 효과적인 훈련 결과를 얻지 못하는 문제를 해결하기 위해, c-TTv2 알고리즘은 chopped 기법을 활용한다. Swin-ViT 모델과 CIFAR100 데이터셋의 일부를 사용하여 아날로그 전이 학습에서 c-TTv2 알고리즘의 성능을 평가하고, 가중치 전달 노이즈, 대칭점 편향, 대칭점 변동성 등 소자 사양 변화에 대한 알고리즘의 강건성을 조사한다.

시사점, 한계점

시사점:
아날로그 인메모리 컴퓨팅의 한계점을 극복할 수 있는 새로운 훈련 알고리즘(c-TTv2)을 제시하였다.
c-TTv2 알고리즘의 아날로그 전이 학습 성능과 소자 사양 변화에 대한 강건성을 실험적으로 검증하였다.
아날로그 인메모리 컴퓨팅 기반의 효율적인 심층 학습 훈련 및 전이 학습 가능성을 제시하였다.
한계점:
CIFAR100 데이터셋의 일부만 사용하여 실험을 진행하였으므로, 더 큰 규모의 데이터셋에 대한 추가적인 검증이 필요하다.
다양한 아날로그 메모리 소자에 대한 적용 가능성에 대한 추가적인 연구가 필요하다.
실제 하드웨어 구현 및 성능 평가에 대한 연구가 부족하다.
👍