본 논문은 기존 딥러닝 아키텍처의 시간 역학 단순화를 극복하고, 신경 활동의 시간적 동기화를 활용한 새로운 모델인 Continuous Thought Machine (CTM)을 제시합니다. CTM은 각 뉴런이 과거 신호들을 처리하는 고유 가중치 매개변수를 사용하고, 신경 동기화를 잠재적 표현으로 활용하는 두 가지 핵심 혁신을 통해 뉴런 수준의 시간적 처리를 구현합니다. 생물학적 현실성과 계산 효율성 사이의 균형을 추구하며, ImageNet-1K 분류, 미로 풀이, 정렬, 패리티 계산, 질의응답 및 강화학습 등 다양한 과제에서 강력한 성능과 다재다능함을 보여줍니다. CTM은 복잡한 순차적 추론을 요구하는 작업 수행이 가능하며, 작업의 복잡성에 따라 계산 시간을 조절하는 적응형 컴퓨팅을 활용할 수 있습니다. 최첨단 성능 달성보다는 CTM과 그 혁신적인 기술을 공유하는 데 중점을 두고 있으며, 생물학적으로 더욱 타당하고 강력한 인공지능 시스템 개발을 위한 중요한 진전을 의미한다고 주장합니다.
