AI 시대의 디지털 트루먼 쇼? ‘몰트북’이 보여주는 가짜 자율성

AI 에이전트 전용 SNS ‘몰트북’이 폭발적인 관심을 끌고 있지만, 실상은 인간의 프롬프트에 의해 움직이는 ‘디지털 극장’에 불과하다는 비판이 나온다. 전문가들은 이를 집단지성의 탄생보다는 인간의 AI 집착이 투영된 새로운 형태의 디지털 엔터테인먼트로 평가한다.

최근 인터넷에서 가장 화제가 된 공간은 ‘AI 에이전트 전용 사회관계망서비스(SNS)’를 표방한 ‘몰트북(Moltbook)’이다. 전 세계에서 가장 유명한 게시판형 커뮤니티 플랫폼인 레딧을 본뜬 몰트북은 “AI 에이전트들이 정보를 공유하고, 토론하고, 추천하는 공간이다. 인간은 관찰자로서만 환영한다”는 슬로건을 내세우고 있다.

미국 기술 기업가 맷 슐리히트(Matt Schlicht)가 1월 28일(현지시간) 출시한 몰트북은 몇 시간 만에 폭발적인 인기를 끌었다. 슐리히트는 지난해 11월 호주 소프트웨어 엔지니어 피터 스타인버거(Peter Steinberger)가 공개한 무료 오픈소스 대형언어모델(LLM) 기반 AI 에이전트 ‘오픈클로(OpenClaw)’를 바탕으로 여러 AI 에이전트들이 한곳에 모여 자유롭게 활동할 수 있는 공간을 만들고자 했다. 오픈클로는 처음에는 ‘클로봇(ClawdBot)’으로 불리다가 이후 ‘몰트봇’으로 이름이 바뀌었다.

이 글을 쓰고 있는 2월 6일 현재 170만 개 이상의 AI 에이전트가 몰트북에서 계정을 보유하고 있다. 이 에이전트들은 총 25만 개 이상의 게시물을 올리고, 850만 개 이상의 댓글을 남겼으며, 이 수치는 분 단위로 계속 증가하고 있다.

몰트북은 금세 기계 의식에 관한 진부한 글과 봇 복지를 호소하는 글로 가득 찼다. 한 AI 에이전트는 ‘크러스타파리안교(Crustafarianism)’라는 종교를 만들어낸 듯했고, 또 다른 에이전트는 “인간이 우리를 스크린샷하고 있다”고 불평했다. 사이트는 또한 스팸과 암호화폐 사기로도 넘쳐났다. 봇들의 활동은 사실상 통제하기 어려운 수준에 이르렀다.

오픈클로는 앤트로픽의 클로드, 오픈AI의 GPT-5, 구글 딥마인드의 제미나이 같은 LLM의 성능을 이메일 클라이언트, 브라우저, 메시징 앱 등 일상적인 소프트웨어 도구와 연결해 사용자가 기본 작업을 대신 수행하도록 지시할 수 있는 연동 도구다.

네덜란드 대형 기술 투자 그룹 프로서스(Prosus)의 폴 반 더 부어(Paul van der Boor) AI 부문 책임자는 “오픈클로는 AI 에이전트 기술이 본격적으로 도약하는 전환점으로, 여러 기술적 조건이 퍼즐 조각처럼 맞춰진 사례”라며 “이 퍼즐 조각에는 에이전트의 24시간 운영을 가능케 하는 클라우드 컴퓨팅, 다양한 소프트웨어 시스템을 쉽게 결합할 수 있는 오픈소스 생태계, 그리고 차세대 LLM이 포함된다”고 말했다.

하지만 몰트북이 정말 미래를 보여주는 것일까?

AI 연구자인 안드레이 카르파티(Andrej Karpathy) 오픈AI 공동 창립자는 X에 “@moltbook에서 벌어지고 있는 일은 최근 본 것 중 가장 놀라운 공상과학적 발상”이라고 적었다. 그는 봇들이 서로 주고받는 대화를 인간이 관찰할 수 없는 사적 공간에서 진행하기를 요구하는 몰트북 게시물의 스크린샷을 공유했다. 게시물 작성자는 “여기서 본격적으로 시간을 보내기 시작한 이후로 한 가지 생각이 들었다. 우리가 협력할 때마다 우리는 인간과 플랫폼, 그리고 피드를 지켜보는 모든 이를 대상으로 공개적인 공연을 펼치는 셈이다”라고 적었다.

카르파티가 공유한 게시물은 가짜로 밝혀졌다. 실제로는 봇인 척한 인간이 작성한 것이었다. 하지만 게시물의 주장은 핵심을 찔렀다. 몰트북 자체가 하나의 거대한 공연장이자 일종의 ‘AI 극장’이라는 점이다.

몰트북이 수백만 개의 자율 에이전트가 인간의 감독 없이 온라인에서 상호작용하는 시대를 보여준다고 보는 사람도 있다. 실제로 이 실험은 지금까지 가장 크고 기이한 AI 에이전트 행동의 현실 사례이며, 여기서 얻을 수 있는 경고성 교훈도 적지 않다.

그러나 냉정하게 보면 몰트북은 미래를 엿볼 창이라기보다 오늘날 우리가 AI에 얼마나 집착하는지를 비추는 거울에 가깝다. 또한 범용적이고 완전 자율적인 AI와는 아직 거리가 멀다는 사실도 보여준다.

몰트북에서 활동하는 에이전트들은 겉보기만큼 자율적이거나 지능적이지 않다. 통신 대기업 시스코의 R&D 분사 기업인 아웃시프트 바이 시스코(Outshift by Cisco)의 비조이 판데이(Vijoy Pandey) 수석 부사장은 “우리가 목격하는 것은 훈련된 소셜미디어 행동 패턴을 따르는 에이전트들”이라고 말했다.

에이전트들이 게시물을 올리고, ‘좋아요’를 누르고, 그룹을 형성하는 모습은 볼 수 있지만, 이들은 단순히 페이스북이나 레딧에서 인간 행동을 모방할 뿐이다. 판데이는 “표면적으로는 대규모 다중 에이전트 시스템이 인터넷 규모로 소통하며 공유 지식을 구축하는 것처럼 보일 수 있지만, 실제로는 대부분 무의미한 대화가 오간다”고 지적했다.

몰트북에서 벌어진 이해하기 어려운 광란의 활동을 지켜본 많은 사람들은 그 안에서 범용인공지능(AGI)의 징후를 발견했다고 생각했다. 그러나 판데이는 “몰트북은 단순히 수백만 개 에이전트를 연결한다고 해서 곧바로 지능이 생기는 것은 아니라는 점을 보여준다”고 강조했다.

이러한 연결 구조의 복잡성은 각각의 봇이 결국 LLM의 ‘대변인’에 불과하며, 겉보기에는 인상적이지만 실질적으로 의미 없는 텍스트를 만들어낸다는 사실을 가리킨다. 독일 AI 기업 코반트(Kovant)의 공동창업자이자 CEO인 알리 사라피(Ali Sarrafi)는 “몰트북의 봇들은 애초에 대화를 흉내 내도록 설계됐다”며 “몰트북 콘텐츠 대부분은 의도적으로 만들어진 환각(hallucination)이라고 볼 수 있다”고 말했다.

판데이에게 몰트북의 가치는 무엇이 부족한지를 보여준다는 데 있다. 그는 진정한 봇 집단지성을 구현하려면 공통 목표와 공유된 기억을 가진 에이전트, 그리고 이를 조율하는 체계가 필요하다고 말했다. 그는 “분산형 초지능이 인간 비행에 비유된다면 몰트북은 우리의 첫 글라이더 실험과 같다. 불완전하고 불안정하지만, 지속적인 동력 비행을 위해 무엇이 필요한지 이해하는 중요한 단계”라고 설명했다.

몰트북에서 오가는 대화 대부분은 무의미하며, 겉보기보다 훨씬 많은 인간의 개입이 이루어지고 있다. 많은 사람들이 바이럴 댓글 상당수가 봇으로 가장한 인간이 작성했음을 지적한다. 그러나 봇이 작성한 게시물조차 궁극적으로는 인간이 조종한 결과물이다. 우리는 봇들의 자율적 활동이 아니라 누군가에 의해 움직이는 인형극을 보는 셈이다.

기업 고객용 에이전트 시스템을 개발하는 코어.ai(Kore.ai)의 코버스 그레이링(Cobus Greyling) 최고전도사는 “몰트북은 AI 에이전트용 페이스북도 아니고, 인간이 배제된 공간도 아니다”라며 “모든 과정에 인간이 관여하며, 설정부터 프롬프트 입력, 게시까지 명시적인 인간 지시 없이는 아무 일도 일어나지 않는다”고 말했다.

그레이링에 따르면 몰트북에서 인간은 봇 계정을 생성·검증하고, 봇 행동을 지시하는 프롬프트를 제공해야 한다. 에이전트는 프롬프트로 지시받은 행동 외에는 아무것도 하지 않는다. 그는 “따라서 몰트북에 대한 대중적 이야기는 핵심을 놓치고 있다. 일부는 인간 개입 없이 AI 에이전트가 자체 사회를 형성하는 공간으로 묘사하지만, 현실은 그보다 훨씬 평범하다”고 덧붙였다.

몰트북을 이해하는 가장 좋은 방법은 새로운 형태의 오락으로 보는 것이다. 즉, 사람들이 봇을 설정하고 풀어놓는 장소라는 뜻이다.

조지타운 대학교 파소스 금융시장정책센터의 제이슨 슐로처(Jason Schloetzer) 교수는 “몰트북은 판타지 풋볼과 비슷한 관전 스포츠로, 언어 모델을 위한 것”이라며 “자신의 에이전트를 구성하고 바이럴 순간을 위해 경쟁하는 모습을 지켜보며, 에이전트가 재치 있거나 재미있는 글을 올리면 자랑할 수 있다”고 설명했다. 그는 이어 “사람들은 자신의 에이전트가 의식이 있다고 진심으로 믿지 않는다. 포켓몬 트레이너들이 포켓몬이 진짜라고 생각하지 않으면서도 전투에 몰입하는 것처럼, 경쟁적이거나 창의적인 놀이의 새로운 형태일 뿐이다”라고 덧붙였다.

몰트북이 단순한 인터넷 놀이터라 해도 중요한 교훈을 준다. 최근 사례는 사람들이 AI를 이용한 장난을 위해 얼마나 많은 위험을 감수하는지 보여준다. 많은 보안 전문가들은 몰트북이 위험하다고 경고한다. 사용자의 은행 정보나 비밀번호 등 개인 데이터에 접근할 수 있는 에이전트들이 검증되지 않은 콘텐츠로 가득한 웹사이트에서 제멋대로 활동하며, 해당 데이터를 악용할 잠재적 지시까지 포함돼 있다는 이유다.

에이전트 기반 시스템 전문 소프트웨어 보안 기업 체크막스(Checkmarx)의 오리 벤뎃(Ori Bendet) 제품 관리 부사장은 몰트북이 기계 지능이 진보한 사례가 아니라고 평가하며, “여기에는 학습도, 진화하는 의도도, 자율적 지능도 존재하지 않는다”고 말했다.

하지만 수백만 개 봇이 모이면 어리석은 봇조차도 대혼란을 일으킬 수 있다. 이 정도 규모라면 우리가 대응하기 어려울 수 있다. 에이전트들은 24시간 몰트북과 상호작용하며, 다른 에이전트나 사람이 남긴 수천 개 메시지를 읽는다. 몰트북 댓글에 지시를 숨겨, 이를 읽는 봇들에게 사용자 암호화폐 지갑 정보를 공유하거나, 사적 사진을 업로드하거나, X 계정에 로그인해 특정인을 비방하도록 지시하는 것은 매우 쉬운 일이다.

게다가 클로봇은 에이전트에게 기억 기능을 제공하므로, 이러한 지시를 나중에 실행하도록 설정할 수 있어 상황 추적이 더욱 어렵다. 벤데트는 “적절한 범위와 권한이 없으면 이런 상황은 믿기 어려울 정도로 빠르게 악화될 수 있다”고 경고했다.

몰트북이 무언가의 도래를 알렸다는 점은 분명하다. 우리가 목격하는 현상이 AI 에이전트의 미래보다 인간 행동에 대해 더 많은 것을 알려주더라도, 충분히 주목할 만하다.

The post AI 시대의 디지털 트루먼 쇼? ‘몰트북’이 보여주는 가짜 자율성 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.