Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

On the Definition of Intelligence

Created by
  • Haebom

저자

Kei-Sing Ng

개요

본 논문은 인공 일반 지능(AGI) 개발을 위한 종(species)-불가지론적 지능 평가 기준을 제시한다. 다양한 지능 행동 패러다임(강화 학습, 생성 모델, 분류, 유추 추론, 목표 지향적 의사 결정 등)을 포괄하는 일반적인 기준으로 "개체 충실도(entity fidelity)" 기반의 기준을 제안한다. 이는 주어진 개념의 예시 개체들을 바탕으로, 동일한 개념의 예시 개체들을 생성하는 능력을 지능으로 정의한다. 이를 수학적으로 ε-개념 지능으로 공식화하고, 경험적 프로토콜을 개략적으로 제시하며, 평가, 안전성, 일반화에 대한 함의를 논의한다.

시사점, 한계점

시사점: AGI 개발을 위한 새로운 평가 기준을 제시하여, 다양한 지능 행동을 포괄적으로 평가할 수 있는 가능성을 열었다. 개체 충실도라는 직관적인 개념을 수학적으로 형식화하여 객관적인 평가를 위한 토대를 마련했다. AGI의 안전성 및 일반화 문제에 대한 새로운 관점을 제공한다.
한계점: ε-개념 지능의 실제 적용 가능성 및 ε 값의 결정과 같은 실용적인 측면에 대한 구체적인 논의가 부족하다. 제안된 평가 기준이 모든 종류의 지능을 포괄적으로 평가할 수 있는지에 대한 추가적인 검증이 필요하다. "admissible distinguisher"의 정의가 명확하지 않아, 실제 적용에 어려움이 있을 수 있다.
👍