Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Recursive Dynamics in Fast-Weights Homeostatic Reentry Networks: Toward Reflective Intelligence

Created by
  • Haebom
Category
Empty

저자

B. G. Chae

개요

본 연구는 신경망에서 자기 참조적 계산을 근사하기 위해 고속 가중치 연상 기억, 항상성 정규화 및 학습된 재진입 피드백을 통합하는 신경 메커니즘인 FH-RL(Fast-Weights Homeostatic Reentry Layer)을 소개합니다. FH-RL은 추론 중 순전히 피드포워드 방식으로 작동하는 표준 트랜스포머 아키텍처와 달리 외부 루핑 없이 내부 재귀를 가능하게 하여 이전 잠재 상태를 지속적인 계산 스트림에 동적으로 다시 입력할 수 있습니다. 재진입 이득 $\gamma$를 변경하며 제어된 실험을 수행하고, IRR(Information Reentry Ratio), ESRI(Eigen-Spectrum Recursion Index), RDP(Representational Drift Periodicity)라는 세 가지 새로운 메트릭을 사용하여 발생하는 내부 역학을 평가했습니다.

시사점, 한계점

재진입량은 $\gamma$에 비례하여 증가합니다.
학습된 피드백 행렬 $W_r$은 제한적이며 중간 이득에서 더욱 구조화됩니다.
$\gamma \approx 0.10-0.20$ 부근에서 안정적인 반사 밴드가 나타납니다.
IRR은 부드럽게 상승하고, ESRI는 0에 가깝게 유지되며, RDP는 일관된 저주파수 주기를 나타냅니다.
본 연구는 이론적 근거를 제시하지만, 실제 적용 및 다양한 데이터셋에서의 성능 검증은 추가 연구가 필요합니다.
👍