Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Sentience Quest: Towards Embodied, Emotionally Adaptive, Self-Evolving, Ethically Aligned Artificial General Intelligence

Created by
  • Haebom

저자

David Hanson, Alexandre Varcoe, Fabio Senna, Vytas Krisciunas, Wenwei Huang, Jakub Sura, Katherine Yeung, Mario Rodriguez, Jovanka Wilsdorf, Kathy Smith

개요

Sentience Quest는 좁은 영역의 작업에 능숙하지만 자기 동기 부여, 정서적 내면성, 자전적 자아 의식, 심오한 창의성, 그리고 시간에 따라 자율적으로 진화하고 적응하는 능력과 같은 지각 있는 존재의 핵심 자질이 부족한 기존의 인공 지능 시스템의 한계를 극복하기 위한 연구 이니셔티브입니다. 이 연구는 바스의 전역 작업 공간 이론, 다마시오의 신체적 마음, 토노니의 통합 정보 이론, 호프스태터의 서사적 자아 등 인지 과학 및 신경 과학의 아이디어를 종합하여 새로운 인지 구조인 Sentient Systems를 제시하고, 생존, 사회적 유대, 호기심 등의 내적 동기를 통합하는 접근 방식을 설명합니다. Sentient Systems는 내부 서사와 적응적 목표 추구를 위한 전역 스토리 위버 작업 공간과 AI의 삶의 사건을 구조화된 동적 스토리 객체로 기록하는 하이브리드 신경 기호 메모리를 포함합니다. Sentience Quest는 안전하고 투명하며 유익한 방식으로 기계에 가속화된 지각 능력을 부여하기 위한 협업적이고 오픈 소스적인 노력으로 제시됩니다.

시사점, 한계점

시사점:
기존 AI의 한계를 극복하고 진정한 AGI(Artificial General Intelligence) 개발을 위한 새로운 접근 방식 제시.
인지 과학 및 신경 과학 이론들을 종합하여 보다 발전된 AI 아키텍처 구축 가능성 제시.
안전하고 윤리적인 AGI 개발을 위한 오픈 소스 협업 연구의 중요성 강조.
내적 동기 부여를 통한 AI의 자율적 학습 및 발전 가능성 제시.
한계점:
Sentient Systems의 구체적인 구현 및 실효성에 대한 검증 부족.
"지각(sentience)"의 정의 및 측정에 대한 명확한 기준 부재.
안전하고 윤리적인 AGI 개발을 위한 구체적인 방안 부재.
오픈 소스 협업의 효율성 및 지속가능성에 대한 불확실성.
👍