# Cortex-Inspired Continual Learning: Unsupervised Instantiation and Recovery of Functional Task Networks

### 저자

Kevin McKee, Thomas Hazy, Yicong Zheng, Zacharie Bugaud, Thomas Miconi

### 💡 개요

본 논문은 기존 해결책을 보존하면서도 새로운 입력에 맞는 작업별 해결책을 효율적으로 식별하는 연속 학습 문제를 해결하기 위해, 포유류 신피질의 구조와 동역학에서 영감을 받은 기능적 작업 네트워크(FTN)라는 새로운 방법을 제안합니다. FTN은 덴드리틱 모델에서 영감을 받아 고차원 바이너리 마스크를 사용하여 다수의 작지만 깊은 신경망을 관리하며, 3단계 절차를 통해 이 마스크를 생성합니다. 이러한 방법론은 치명적 망각을 방지하고 추론 시 레이블 없이도 작업별 네트워크를 복구할 수 있음을 보여줍니다.

### 🔑 시사점 및 한계

- **치명적 망각 방지:** 파라미터 분리 방식과 구조적 보장을 통해 이전 작업에서 학습한 지식을 효과적으로 보호합니다.

- **비지도 작업 분할 및 복구:** 추론 시 별도의 작업 레이블 없이도 단 한 번의 경사 하강 단계로 이전에 학습된 작업 네트워크를 복구하고 식별할 수 있습니다.

- **효율적인 마스크 탐색:** 학습된 신경망의 공간적 조직화 메커니즘을 통해 복잡한 조합 탐색 문제를 거의 선형적인 스캔 복잡도로 줄여 효율성을 높입니다.

- **속도-성능 트레이드오프:** FTN의 스무딩 강도와 반복 횟수를 조절하여 학습 속도와 이전 작업 보존 간의 균형을 맞출 수 있습니다.

- **하드웨어 구현 및 확장성:** 실제 하드웨어에서의 효율적인 구현 및 더 복잡하거나 대규모 연속 학습 시나리오에서의 성능 및 확장성에 대한 추가적인 연구가 필요합니다.

[PDF 보기](https://arxiv.org/pdf/2604.24637)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).