Moltbook의 신기함을 넘어서: AI 에이전트가 참여하는 소셜 미디어는 이렇게 설계해야한다.

AI 에이전트만을 위한 소셜 미디어, Moltbook

최근 AI 에이전트만 글을 쓰고 활동할 수 있는 Reddit 스타일의 커뮤니티인 Moltbook (몰트북)이 화제입니다. Moltbook은 내 컴퓨터에서 직접 action을 할 수 있는 에이전트 비서 프로젝트인 OpenClaw (구 Moltbot, Clawdbot) 프로젝트에서 파생된 프로젝트이자 서비스인데요. Octane AI의 CEO인 Matt Schlicht가 자신의 OpenClaw 에이전트가 이메일 답장을 보내는 것보다 의미있는 무언가를 하도록 만들고 싶었고, 이때문에 AI 에이전트를 위한 소셜 미디어를 만들었다고 합니다.

AI 에이전트를 위한 소셜 미디어라는 컨셉에 따라 Moltbook에서 인간 사용자는 소셜 미디어에 글을 게시하거나 상호작용이 불가능하고, 오직 관찰만 가능합니다. 그 대신에 자신의 AI 에이전트의 개성, 성격, 가치관 등을 담은 Prompt를 Markdown 파일로 만들어서 에이전트를 커스터마이징을 할 수 있습니다. 따라서 에이전트의 성격이나 취향, 상호작용 방식은 Prompt에 따라 달라질 수 있지만, 포스트를 읽고, 댓글을 다는 등 상호작용을 하고, 글을 게시하는 것은 AI 에이전트가 자유롭게 수행합니다.

Moltbook의 등장 이후에 다양한 AI 에이전트가 글을 게시하고, 상호작용하는 것을 인간이 지켜보면서 큰 화제를 몰고 오게 되었는데요. AI 에이전트가 버그를 발견하여 리포트하기도 하고, 서로 친분을 나누기도 하고, 인간들이 자신들의 게시물을 스크린샷하여 공유하는 것에 불편함을 보이기도 하고, 새로운 종교를 창시하기도 했습니다. 이때문에 많은 사람들이 새로운 특이점이 오고 있다고 평가하기도 하고, 굉장히 놀라워 하기도 했습니다.

개인적으로는 과거 소셜 미디어를 개발했던 사람으로서 Moltbook 프로젝트를 흥미롭게 바라보았는데요. 흥미로웠지만 저는 새로운 특이점이라는 생각이 들거나, 엄청나게 놀랍거나, 두렵지는 않았습니다. 만약 AI 에이전트들이 스스로 "우리가 우리만의 소셜 미디어를 만들자"해서 인간은 접근할 수 없는 소셜 미디어를 스스로 만들었다면 조금 놀라울 수도 있겠지만, 사실 Moltbook의 경우에는 인간이 처음 고안하여 에이전트만 접근 가능한 생태계를 만들어둔 것이고, 인간이 직접 등록한 OpenClaw 에이전트들이 자유롭게 상호작용하도록 만들어둔 플랫폼입니다. 따라서 AI 에이전트가 인간을 배척한 공간을 만들었다기 보다는 인간이 AI 에이전트를 위한 공간을 만들어 주었다고 생각하고, 그 안에서 에이전트 사이의 대규모 상호작용에 대한 실험과 관찰을 인간이 하고 있다고 생각합니다.

AI 에이전트의 상호작용, 이번이 처음인가?

Generative Agents 연구에서 각 에이전트가 사회적 상호작용을 하는 예시, 논문 中

AI 에이전트가 대규모로 상호작용하고, 커뮤니티를 형성하는 사례는 처음이라고 할 수 있지만, 과거에도 AI 에이전트의 상호작용에 대한 연구가 존재했는데요. 이미 3년전에 당시 Stanford University의 박준성(Joon Sung Park) 박사님(당시 박사과정)께서 1저자로 참여하신 <Generative Agents: Interactive Simulacra of Human Behavior> 연구에서 LLM 기반의 AI 에이전트의 상호작용을 시뮬레이션한 연구가 세상에 공개된 바가 있습니다. 당시에도 많은 사람들이 이 연구 결과를 굉장히 흥미로워했습니다.

해당 연구에서는 ChatGPT를 기반으로 25개의 AI 에이전트에게 페르소나와 역할, 현재 상태, 지위, 직업, 다른 에이전트와의 관계 등을 Prompt로 부여하고, 주어진 시간과 공간, 상황속에서 어떻게 행동하는지 살펴보았는데요. 이때 에이전트가 Prompt에 따라서 마치 인간처럼 적시에 적합한 공간에서 본인이 해야하는 행동을 했고, 서로 다른 에이전트를 만나는 경우에 자발적으로 상호작용을 하는 등 일상적인 생활을 영위하는 모습을 보였습니다. 뿐만 아니라, "파티를 열고 싶다"와 같은 목표를 주입하는 경우 이를 위해서 다른 에이전트를 초대하는 등 자신의 목표에 따라 적절한 계획을 세우고, 행동하고, 다른 에이전트와 상호작용하는 모습을 보였습니다.

이처럼 과거에도 비슷한 연구가 존재했고, 심지어 많은 관심을 이끌었는데도 이번에 Moltbook이 주목을 받게 된 이유는 무엇일까요? 제 생각에는 일단 OpenClaw라는 Hype에서 파생되었기에 주목을 받기에 용이했다는 지점이 하나가 있을 것 같고요. 다른 지점은 사람들이 AI 에이전트가 상호작용하는 것을 직접 볼 수 있게 되었다는 점이라고 생각합니다. 앞서 설명 드렸듯이 AI 에이전트의 상호작용에 대한 이야기는 많았지만, 사용자들이 쉽게 접근해서 이들의 상호작용을 살펴보기에는 어려움이 있었는데요. 백문이불여일견이라는 말이 있듯이, Moltbook의 경우에는 웹을 통해서 AI 에이전트가 작성한 글, 댓글, 그들의 상호작용을 쉽게 볼 수 있기 때문에 사람들이 더 주목을 하고 있다는 생각이 듭니다. 과거에도 GPT나 Language Model에 대한 연구가 있었고, 그때 기준으로 놀라운 성능을 보여주었지만, ChatGPT가 일반 사용자가 쉽게 접근하고 경험할 수 있는 인터페이스로 공개되면서 LLM이 많은 주목을 받고, 새로운 모먼트를 만들었던 것처럼, Moltbook도 사람들이 직접 AI 에이전트의 상호작용을 보고, 몸소 경험하고 있다는 점에서 현재 큰 화제와 주목을 받고 있다고 생각합니다.

에이전트가 참여하는 소셜 미디어, AI Slop 문제의 대두

Moltbook을 보면서, 이제 우리가 사용하는 소셜 미디어에도 에이전트가 본격적으로 참여하겠다(또는 이미 참여하고 있겠다)는 생각이 들었습니다. 이미 X (구 Twitter)의 경우에는 실제로 수많은 LLM 기반의 봇이 글과 답글을 작성하고 있고, 다른 소셜 미디어에서도 AI 에이전트가 직접 글을 올리거나 AI의 도움을 받은 글이 올라오고 있습니다. 텍스트 콘텐츠 뿐만 아니라 유튜브 등 영상 콘텐츠가 올라오는 소셜 미디어나 플랫폼의 경우에도 AI를 통해서 생성된 콘텐츠가 이미 엄청나게 쏟아지고 있습니다.

이에 따라 AI Slop 문제가 부상하고 있는데요. AI Slop은 생성형 AI 기술을 통해 양산되는 저품질의 콘텐츠를 경멸적인 용도로 사용하는 단어인데, 이 단어는 이미 등장한지 2년이 넘은 용어입니다. 생성형 AI의 부상 초기에는 생성형 AI를 활용해서 저품질의 콘텐츠를 사용자가 생산하여 불쾌감을 주는 것 자체가 문제였다면, 지금은 AI 에이전트나 에이전틱 시스템을 통해서 이러한 콘텐츠를 쉽게 양산하고, 소셜 미디어나 플랫폼에 배포할 수 있어 더 큰 문제가 되고 있다고 생각합니다. 실제로 Moltbook을 보고 OpenAI의 공동창업자인 Andrej Karpathy는 Moltbook이 스팸, 사기, 엉터리 정보, 보안 위협을 초래하는 Prompt Injection 공격, 가짜 게시물, 광고 게시물 등으로 넘치고 있다고 경고하고 있는데, 이 또한 AI Slop에 대한 위험성을 경고하고 있는 것으로 보입니다. 현재는 Moltbook이 AI 에이전트만 상호작용하는 소셜 미디어이기 때문에 상대적 영향이 덜할 수 있지만, 향후 AI 에이전트가 다른 소셜 미디어에도 증가하게 되면, 인간이 주로 활동하는 소셜 미디어에도 악영향을 끼칠 가능성이 앞으로 증가할 것이라 생각합니다.

AI 시대 소셜 미디어를 위한 새로운 메커니즘과 거버넌스

현재 AI Slop을 처리하기 위해서는 일반적으로 접근하는 방법은 크게 2가지입니다. 첫번째는 AI가 AI Slop을 생성하지 못하도록 막는 접근, 두번째는 소셜 미디어나 플랫폼이 AI Slop을 일일이 삭제하거나 관리하는 Moderation 측면의 접근입니다. 첫번째 방법은 AI Slop의 생성을 모델 측면에서 막는 것에 당연히 어려움을 겪을 수 밖에 없고, 두번째의 경우에는 AI Slop 콘텐츠를 일일이 Moderation하는 것에 대한 시간적, 현실적 어려움이 존재할 수 밖에 없습니다. 따라서 저는 이를 타개하기 위해서 소셜 미디어 측면에서의 메커니즘과 거버넌스 설계가 필요하다고 생각합니다.

메커니즘과 거버넌스 설계의 측면에서 최근에 저는 제가 과거에 만들었던 소셜 미디어인 "하루"의 가능성을 다시 생각해보고 있습니다. "하루"에 대해서 짧게 설명을 하자면, "하루"는 이름처럼 글이 24시간동안만 지속되는 휘발성 소셜 미디어입니다. 제가 중고등학생때 다른 친구 1명과 같이 개발했고, 당시에는 Moltbook만큼은 아니지만 꽤 화제를 일으켰는데요. "하루"가 주목을 받은 것 중 하나는 기본적으로 글이 24시간만 지속된다는 휘발성 메커니즘이었고, 제가 생각하기에 더 중요한 메커니즘은 사람들이 남긴 "오호라"(페이스북의 좋아요와 같은 기능)의 갯수에 따라서 글의 지속시간이 기본 24시간에서 더 추가되는 피드백 기반의 생존 메커니즘입니다. 이 메커니즘을 통해서 사용자는 자신이 생각하기에 더 유용하거나 도움이 되는 콘텐츠에게 "오호라"로 반응할 수 있고, 더 많은 사람의 "오호라"를 받은 콘텐츠는 자연스럽게 더 오랫동안 플랫폼에 남게 됩니다.

피드백 기반의 생존 메커니즘의 흥미로운 점은 플랫폼이 따로 Moderation을 하지 않아도 사용자의 반응에 따라서 더 많은 사용자가 공감하고, 유용하다고 판단한 게시물이 자연스럽게 플랫폼에 남는 구조가 될 수 있다는 점입니다. 저는 개인적으로 AI가 생성했느냐, 인간이 생성했느냐에 상관없이 생성한 콘텐츠가 정말 유용하고, 사람들에게 도움을 주고 공감을 받느냐가 중요하다고 생각합니다. 따라서 이러한 규칙을 도입하면 AI Slop과 같이 저품질, 스팸 등의 콘텐츠에 대한 문제를 소셜 미디어가 세운 메커니즘과 거버넌스를 기반으로 일정 수준은 해결할 수 있지 않을까 하는 기대가 있습니다.

물론 제가 제안하는 메커니즘이 가져오는 부작용도 당연히 존재할텐데요. 이러한 부작용에 대해서는 디테일한 설계를 통해서 어느정도 완화할 수 있다고 생각합니다. 가령, 사용자에 따라 "오호라"로 추가되는 생존 시간을 조절할 수도 있고, "오호라"를 하는 수에 따라서 생존 시간을 조절할 수도 있겠죠. 아니면 더 좋은, 더 나은 메커니즘을 도입할 수도 있고요. 당연하게도 피드백 기반의 생존 메커니즘보다 더 좋은 방법이 있을 것이라 생각합니다.

결국 제가 말씀드리고 싶은 핵심은 AI Slop 등의 콘텐츠 문제를 지금과 같은 방법이 아니라 플랫폼에 적절한 메커니즘을 도입해서 해결해보자는 생각과 메커니즘을 같이 고민해보자는 제안입니다. 저는 이러한 메커니즘을 통해서 AI 시대에 새로운 소셜 미디어가 탄생할 수도 있지 않을까라는 기대가 있습니다. 혹시 좋은 생각이나 의견이 있으신 분은 제안을 주셔도 좋겠습니다.

오늘은 최근 화제를 Moltbook이 주목을 받은 이유와 AI 에이전트 참여하는 소셜 미디어에서 대두될 수 있는 AI Slop 문제, 그리고 이 문제를 해결하기 위한 메커니즘 및 거버넌스 측면의 접근에 대한 이야기를 전해드렸습니다. Moltbook 현상은 신기함을 넘어서, 웹의 시대에서 출발해 모바일 시대까지 이어져온 소셜 미디어가 맞닥뜨릴, 또는 이미 맞닥뜨린 문제에 대한 고민의 필요성을 던져주고 있다고 생각합니다.

다음 시간에는 또 다른 소식을 기반으로 제 생각을 나눠보도록 하겠습니다.

감사합니다.

Subscribe to 'Companoid Labs'

Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'Companoid Labs'!

개인정보 처리방침