해봄의 아카이브
언어는 소통을 위한 도구일까, 사고의 근간일까?
Haebom
지난 글을 쓰고 친구들과 함께 언어란 무엇이고 생각이란 무엇인가에 대해 이야기를 나누었습니다. 그러다 흥미로운 기사를 하나 보게 됩니다.
오랫동안 철학자들은 언어의 목적에 대해 고민해왔습니다. 플라톤은 사고가 "영혼과 자신이 나누는 내적 대화"라며 언어의 중요성을 역설했죠. 촘스키 같은 현대 학자들도 언어가 사고와 추론에 필수적이라고 주장했습니다.
하지만 최근 신경과학계에선 이에 반기를 드는 연구 결과들이 나오고 있습니다. MIT의 인지신경과학자 이블리나 페도렌코 박사가 대표적인데요. 그녀는 fMRI로 사람들의 뇌를 스캔하며 흥미로운 사실을 발견했습니다. 언어를 처리하는 뇌 영역이 사고나 문제 해결 시에는 활성화되지 않는다는 거죠. 페도렌코 박사는 "언어가 사고에 꼭 필요하다는 근거를 찾을 수 없었다"라고 말합니다.
뇌 손상 환자들을 대상으로 한 연구 결과도 이를 뒷받침합니다. 언어 능력을 잃은 실어증 환자들도 수학 문제를 풀거나 체스를 두는 데는 별 어려움이 없었다고 하네요. 이런 연구들은 언어가 사고에 필수 불가결한 건 아니란 걸 보여줍니다.
그렇다면 언어의 주된 목적은 무엇일까요? 페도렌코 박사는 단호하게 '소통'이라고 말합니다. 자주 쓰는 단어일수록 길이가 짧고, 문법 규칙이 단어들을 의미상 가깝게 배치하는 경향이 있다는 연구 결과들이 이를 뒷받침한다네요. 마치 정보 전달을 최적화하기 위해 언어가 진화해 온 것처럼 보입니다.
자, 그럼 이제 요즘 인공지능계의 큰손으로 떠오른 LLM의 이야기로 넘어가 볼까요? LLM은 방대한 양의 텍스트로 학습한 덕분에 인간처럼 유창하게 언어를 구사합니다. 마치 인간의 '언어 네트워크'를 완벽히 흉내 낸 것 같죠.
하지만 정작 추론이나 문제 해결 능력은 한참 부족한 모습입니다. 언어와 사고를 별개로 보는 페도렌코 박사의 이론으로 보면 이는 어쩌면 당연한 일인지도 모릅니다. LLM은 언어라는 도구는 훌륭하게 습득했지만, 그 도구를 활용해 사고하는 능력은 발달시키지 못했다고 볼 수 있겠죠.
물론 이 연구가 언어의 가치를 폄하하는 건 아닙니다. 루이빌 대학의 가이 도브 교수의 말마따나 "언어는 사고를 향상시키는 도구가 될 수 있다"는 겁니다. 민주주의에 대해 생각할 때 우리는 종종 민주주의에 대한 대화를 떠올리곤 하잖아요?
•
언어 네트워크: 실험 참가자들은 언어 작업을 할 때 특정 뇌 영역이 활성화되었습니다. 이 영역은 시간이 지나도 동일한 위치에 있었습니다.
•
사고 네트워크: 같은 참가자들이 퍼즐을 풀거나 다양한 사고 작업을 할 때는 다른 뇌 영역이 활성화되었습니다. 그러나 언어 네트워크는 조용히 있었습니다.
•
실어증 환자: 뇌 손상으로 언어 네트워크가 손상된 사람들도 여전히 산술을 하거나 체스를 두는 등의 작업을 수행할 수 있었습니다. 이는 언어가 사고에 필수적이지 않다는 추가적인 증거였습니다.
중요한 건 언어가 유일하거나 필수적인 사고의 도구는 아니라는 사실입니다. 우리는 훨씬 더 근원적인 방식으로도 생각할 수 있고, 또 그래 왔습니다. 아기들이 언어를 배우기 전부터 문제를 해결하고 세상을 이해하려 애쓰는 모습을 보면 이는 자명해 보입니다.
LLM을 보면서 인간만이 가진 고유한 능력이 과연 무엇일지 다시금 생각해보게 됩니다. 단순히 정보를 주고받는 것을 넘어, 그 정보를 창의적으로 조합하고 새로운 지식을 만들어내는 힘 말이죠. 앞으로 인간과 인공지능이 함께 성장해 나가기 위해선 '언어'와 '사고'라는 두 날개가 모두 필요하지 않을까요?
Subscribe to 'haebom'
📚 Haebom의 아카이브에 오신 걸 환영합니다.
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
haebom
해봄의 아카이브
언어모델의 블랙박스를 밝혀라 : LLM은 어떻게 동작하는가?
Haebom
언어모델이라는 개념이 등장하고 이것이 동작하는 방법, 원리는 수차례 이야기를 해왔습니다. 어텐션 방식과 트렌스포머 방식은 이미 널리 알려진 작동 방법 중에 하나 입니다. 하지만 이것은 기존 ML에 관심 있는 분들이 이해하는 개념이지 일반적으로는 '그런게 있나보다' 정도로 받아드려 졌습니다. 이번 앤트로픽(Anthropic)에서 공개된 Scaling Monosemanticity 논문은 이런 인공지능(=언어모델로 대표되는)의 작동 원리를 좀 더 이해하기 쉽게 설명합니다.
일반적으로 '골든 게이트 브리지(The Golden Gate Bridge)'라는 단어를 들으면 어떤 생각이 드시나요? 어떤 분은 샌프란시스코의 금문교를 바로 떠올리는 분도 계실테고, 처음 듣는 분은 '황금색 문을 가진 다리인가?'라고 생각하실 겁니다. 우리의 머리 속에선 '샌프란시스코', '다리', '문', '다리' 등의 키워드를 기반으로 연상해서 생각을 구성합니다. 위 그림은 이런 관련된 개념들이 AI 모델 내에서 어떻게 위치하고 있는지를 시각적으로 보여줍니다.
주요 구성 요소 설명
Nearest neighbors to the Golden Gate Bridge feature (골든 게이트 브리지 기능의 인접 개념들):
•
이 부분은 '골든 게이트 브리지' 기능과 관련된 다른 기능들을 보여줍니다.
•
각 기능은 모델 내에서 서로 얼마나 가까운지를 나타냅니다.
San Francisco region (샌프란시스코 지역):
•
'골든 게이트 브리지' 기능과 밀접하게 관련된 개념들로, 주로 샌프란시스코와 관련된 다양한 참조를 포함합니다.
•
예를 들어, 'San Francisco, California', 'San Francisco references', 'San Francisco area locations' 등이 있습니다.
Earthquake region (지진 지역):
•
'골든 게이트 브리지' 기능과 연관성이 있는 지진 관련 개념들이 포함되어 있습니다.
•
'1906 SF earthquake', 'San Andreas fault system', 'Northridge and Loma Prieta earthquake' 등의 지진 관련 참조가 있습니다.
기타 관련 개념들:
•
샌프란시스코 49ers 팀, UC Berkeley identifiers, 뉴욕 시 구역, 에펠탑, 관광 명소와 랜드마크 등 다양한 지리적, 문화적 개념들이 포함되어 있습니다.
AI 모델이 텍스트를 이해하는 방식을 더 명확히 알기 위해, AI 모델 내부의 뉴런 활성화 패턴을 분석한 것입니다. '기능'은 여러 뉴런이 함께 활성화되는 패턴을 말하며, 이를 분석하면 AI가 어떻게 다양한 언어와 형식에서 동일한 개념을 이해하는지 알 수 있습니다. 이 연구를 통해 AI 모델의 작동 방식을 더 잘 이해하고, 이를 통해 모델을 더 안전하고 신뢰할 수 있게 만드는 데 도움이 됩니다.
주요 개념
1.
기능 추출 (Dictionary Learning):
•
AI 모델의 뉴런은 개별적으로 다양한 개념을 표현합니다.
•
'기능'이란 여러 뉴런의 활성화가 결합된 패턴입니다. 마치 여러 글자가 모여 단어를 만들듯이, 여러 뉴런의 조합이 특정 기능을 만들어냅니다.
•
기능을 분석하면 AI 모델이 텍스트를 어떻게 이해하는지 더 명확하게 알 수 있습니다.
2.
기능의 특성:
•
기능은 다양한 언어와 형식(텍스트, 이미지 등)에서 동일하게 나타날 수 있습니다.
•
예를 들어, '골든 게이트 브리지'라는 기능은 영어, 일본어, 중국어 등 다양한 언어로 된 텍스트에서 동일하게 활성화됩니다.
3.
기능 조작 실험:
•
특정 기능을 인위적으로 강화하거나 억제하여 AI 모델의 응답이 어떻게 변하는지 실험했습니다.
•
예를 들어, '골든 게이트 브리지' 기능을 활성화하면 모델이 거의 모든 질문에 '골든 게이트 브리지'를 언급하게 됩니다.
언어(Language) 밀도: 단어들은 어디에 모여 있는가?
1.
밀도(Density):
•
그래프의 왼쪽 상단 부분은 대부분의 데이터 포인트가 활성화 수준 0에 위치해 있음을 나타냅니다. 이는 대부분의 입력이 이 기능을 거의 활성화하지 않는다는 의미입니다.
2.
조건부 분포(Conditional Distribution):
•
활성화 수준(0에서 1까지)에 따른 기능의 활성화 분포를 나타냅니다.
•
색상은 Claude의 구체성 점수를 나타냅니다:
◦
파란색 (0점): 관련 없음
◦
연한 주황색 (1점): 모호하게 관련 있음
◦
진한 주황색 (2점): 인접한 텍스트와 관련 있음
◦
빨간색 (3점): 텍스트를 명확하게 식별함
3.
예시 입력 (Examples inputs sampled from intervals):
•
하단의 예시 입력은 각 활성화 구간 내에서 샘플링된 텍스트와 이미지를 보여줍니다.
•
왼쪽의 예시는 낮은 활성화 수준(0.1 ~ 0.3)을, 오른쪽의 예시는 높은 활성화 수준(0.7 ~ 1.0)을 나타냅니다.
•
예를 들어, 낮은 활성화 수준에서는 'Presidio', 'Union Square'와 같은 덜 관련된 텍스트가 나타납니다. 높은 활성화 수준에서는 '골든 게이트 브리지'가 명확히 언급된 텍스트가 나타납니다.
쉽게 이해하기
AI 모델이 텍스트를 이해하는 방식을 더 명확히 알기 위해, AI 모델 내부의 뉴런 활성화 패턴을 분석한 것입니다. '기능'은 여러 뉴런이 함께 활성화되는 패턴을 말하며, 이를 분석하면 AI가 어떻게 다양한 언어와 형식에서 동일한 개념을 이해하는지 알 수 있습니다. 이 연구를 통해 AI 모델의 작동 방식을 더 잘 이해하고, 이를 통해 모델을 더 안전하고 신뢰할 수 있게 만드는 데 도움이 됩니다.
이번 논문이 의미있는 것은 언어모델의 작동 방법이 좀 더 명확히 밝혀지고 있다는 것입니다. 앞으로 멀티모달 인공지능을 향한 속도가 더욱 빨라 진다는 의미이기도 합니다. 이런 위와 같은 뉴런 기반의 연상법들로 인해 언어모델을 어떻게 하면 더 잘 쓸 수 있는지에 대한 이야기도 나올 수 있구요.
Subscribe to 'haebom'
📚 Haebom의 아카이브에 오신 걸 환영합니다.
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
1
Haebom
뉴욕타임즈 제목이 재밌네요. "인공지능이 좀 더 덜신비해졌다."
A.I.’s Black Boxes Just Got a Little Less Mysterious
Researchers at the A.I. company Anthropic claim to have found clues about the inner workings of large language models, possibly helping to prevent their misuse and to curb their potential threats.
nytimes.com
See latest comments