‘제국’이 된 오픈AI, 이상은 야망에 묻혔다

기술 제국으로 성장한 오픈AI와 샘 올트먼의 야망을 파헤친 두 권의 신간이 주목받고 있다.

지난 4월 미국 스타트업 액셀러레이터인 와이콤비네이터(Y Combinator)의 전 대표이자 오픈AI의 CEO인 샘 올트먼이 소셜미디어 엑스(X)에 GPT-4를 향한 작별 인사를 전하자, 와이콤비네이터 창립자인 폴 그레이엄(Paul Graham)은 한 가지 질문을 던졌다.

그는 “이 모델의 가중치를 가장 압축된 형태로 금속판에 새긴다면 그 판은 얼마나 커야 할까”라고 물었다. 이어 “이건 꽤 진지한 질문”이라며 “이 모델들은 역사 그 자체인데, 디지털 데이터는 본래 증발하는 속성을 지니고 있기 때문”이라고 덧붙였다. 여기서 언급된 ‘모델 가중치(model weight)’는 AI 모델의 작동 방식을 결정짓는 핵심 수치다.

오픈AI가 2022년 챗GPT 3.5를 출시하며 이뤄낸 성과는 단연 역사적이다. 이 출시를 기점으로 본격화한 AI 주도권 경쟁은 이미 전 세계에서 광범위한 변화를 일으켰으며, 단기적으로 교육과 고용 분야에서 이미 나타나고 있는 혼란을 넘어 훨씬 더 크고 장기적인 파장을 불러올 것으로 전망된다. 그러나 이러한 변화가 인류 전체에 어떤 영향을 미칠지는 아직 확실히 알 수 없으며, 그 실체를 파악하는 데에도 오랜 시간이 걸릴 것으로 보인다.

이런 가운데 오픈AI 혁명의 최전선에서 이를 지켜본 두 기술 전문 기자가 각각의 시선으로 이 질문에 대한 답을 모색한 책 두 권이 최근 출간되며 화제를 모으고 있다.

캐런 하오(Karen Hao)는 《AI 제국: 샘 올트먼의 오픈AI가 꾸는 꿈과 악몽(Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI)》에서 오픈AI의 부상과 이를 통해 전 세계에 미치는 영향을 집중 조명했다.

한편 <월스트리트 저널(The Wall Street Journal)>의 키치 헤이지(Keach Hagey) 기자가 집필한 《낙관주의자: 샘 올트먼, 오픈AI, 그리고 미래 발명을 위한 경쟁(The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future)》은 올트먼의 어린 시절부터 현재에 이르는 개인사와 함께 오픈AI의 궤적을 풀어낸다.

두 책은 모두 복합적인 시각을 담고 있으며, 특히 샘 올트먼을 실리콘밸리가 배출한 양면적인 인물로 묘사했다. 즉 탁월한 능력으로 눈부신 성과를 이뤄내는 한편, 원하는 바를 얻기 위해 타인을 조종하는 등 내면적 결함도 많은 인물로 그려냈다.

하오는 <MIT 테크놀로지 리뷰(MIT Technology Review)> 기자로 재직하던 시절 오픈AI를 취재하기 시작했으며, 현재도 기고 활동을 이어가고 있다. 《AI 제국》에 수록된 한 챕터는 당시 보도를 바탕으로 작성되었고, 감사의 글에서 “<MIT 테크놀로지 리뷰>에 기고했던 ‘AI 식민주의’ 연재 기사가 책의 핵심 논지를 형성했고, 궁극적으로 제목의 기반이 됐다”고 직접 밝히기도 했다. 이러한 배경을 고려하면, 필자가 하오의 작업에 대해 다소 호의적인 시선을 가질 수밖에 없음을 미리 밝혀둔다.

《AI 제국》은 뛰어난 취재력과 강한 문제의식을 갖춘 저작으로, 두 가지 핵심 주제를 중심으로 이야기를 풀어낸다. 그중 첫 번째 주제는 비교적 명료하다. 바로 윤리를 압도하는 야망이다. 하오가 그려낸 오픈AI의 역사는 애초에 ‘안전한 범용인공지능’을 만들겠다는 이상주의적 목표로 출발했지만, 점차 승리와 우위를 점하는 것 자체에 집착하게 되는 과정을 보여준다. 이는 헤이지의 서술과도 유사한 부분이다.

이 같은 서사는 실리콘밸리의 대형 기술 기업들에서 반복적으로 등장해 왔다. 진단 기술을 혁신하겠다던 테라노스(Theranos), ‘빅택시(Big Taxi)’ 카르텔을 깨겠다며 시작된 우버가 대표적이다. 

그러나 가장 가까운 사례는 구글이다. ‘사악해지지 말자(Don’t be evil)’를 사명으로 내세우던 구글은 결국 법원 판결에 따라 불법적인 독점기업으로 전락했다. 구글은 한때 자사의 언어 모델을 소비자용 제품으로 출시하는 데 극도로 신중한 태도를 보였으나, 오픈AI를 따라잡기 위해 서둘러 챗봇을 내놓는 길을 택했다. 실리콘밸리에서는 누구든 처음에는 고상한 이상을 외치더라도, 결국 중요한 것은 ‘이기는 것’이 되고 만다.

두 번째 주제는 보다 복합적인 개념으로, 하오가 책의 핵심 논지로 내세운 ‘AI 식민주의’와 맞닿아 있다. ‘AI 식민주의’란 대형 AI 기업들이 전통적 제국처럼 행동하며 사회의 하층 계급으로부터 노동력과 창작물, 원자재 등 다양한 자원을 빨아들여 자사의 야망을 실현하고, 그 과실은 극소수 상층부만이 누리는 구조를 지칭한다.

하오는 “이 AI 권력자들이 어떤 존재인지를 설명할 수 있는 단어는 단 하나, ‘제국’뿐이라고 생각한다”고 전했다. 이어 “유럽 식민주의가 전성기를 구가하던 시절, 제국은 자신들의 소유가 아닌 자원을 강탈하고, 피지배 국민의 노동을 착취해 자원을 채굴·경작·정제하는 방식으로 부를 축적했다”고 덧붙였다.

하오는 AI 산업에 대한 환멸이 점차 깊어졌던 개인적 경험도 솔직하게 털어놓는다. 그녀는 “시간이 갈수록 점점 더 분명해졌다”며 “더 나은 미래를 약속하던 바로 그 혁명이 사회의 가장자리에서 살아가는 이들에게는 오히려 과거의 어두운 잔재를 되살리는 방식으로 작동한다는 사실을 깨달았다”고 적었다.

그녀는 세계 곳곳에 뿌리내린 ‘AI 제국’의 실상을 기록하기 위해 책상 앞을 떠나 직접 현장으로 향했다. 콜롬비아에서는 AI에 이미지를 인식하는 법을 가르치는 데이터 라벨러(data labeler)를 만나 단 몇 달러라도 더 벌기 위해 집으로 전속력으로 달려가는 청년의 이야기를 담았다.

케냐에서는 오픈AI를 위해 데이터 라벨링과 콘텐츠 검열 작업에 참여했던 근로자들이 충격적인 콘텐츠를 반복적으로 마주한 끝에 정신적 트라우마를 겪었다는 일화도 기록했다. 칠레에서는 AI 산업이 데이터 센터를 구축하기 위해 물, 전기, 구리, 리튬 등 귀중한 자원을 추출하는 모습을 직접 살펴봤다.

하오는 한편으로 이 같은 AI 제국에 맞서 전 세계 곳곳에서 벌어지는 저항의 움직임에도 주목한다. 특히 자신의 언어를 지키기 위해 고유의 소형 언어 모델을 직접 개발하고자 나서고 있는 뉴질랜드 마오리족의 사례에서 그녀는 중요한 교훈을 끌어낸다. 

마오리족의 언어 모델은 자원자들의 음성 녹음을 학습 데이터로 삼았으며, 오픈AI 같은 거대 기업들이 사용하는 수천 개의 그래픽 처리 장치(GPU) 대신 단 두 개의 GPU만으로 작동한다. 목표는 수익을 위한 착취가 아닌 공동체의 이익이다.

하오는 “그렇다고 AI 자체를 반대하는 것은 아니다”라며 “AI로부터 광범위한 이익을 얻기 위해 프라이버시와 자율성, 인간의 존엄성은 물론 노동과 예술의 가치까지 모두 희생해, 하나의 제국적 중앙집권 프로젝트에 바쳐야 한다는 위험한 발상을 거부하는 것”이라고 강조했다. 

이어 “뉴질랜드 모델은 우리에게 또 다른 길이 있다는 사실을 보여준다”며 “AI가 정반대의 방식으로 작동할 수도 있다는 가능성을 생각하게 된다”고 밝혔다. 덧붙여 “AI 모델은 소형화되고 특정 목적에 맞게 설계될 수 있으며, 학습 데이터 역시 제한적이고 투명하게 관리될 수 있다”며 “이런 방식은 착취적이고 정신적으로 유해한 대규모 노동 관행은 물론, 초대형 슈퍼컴퓨터 생산과 운영에 따르는 자원 수탈의 유인까지 사라지게 만들 수 있다”고 주장했다.

한편 키치 헤이지의 《낙관주의자》는 샘 올트먼의 ‘야망’에 보다 집중한 책이다. 헤이지는 그 야망의 뿌리를 어린 시절까지 거슬러 올라가 추적하며, 특히 ‘제국’을 세우려 했던 그의 노력에 초점을 맞춘다. 그녀는 “와이콤비네이터를 떠난 이후에도 문명을 건설하려는 올트먼의 야망은 조금도 줄지 않았다”고 설명했다. 

헤이지는 올트먼이 한때 캘리포니아 주지사 출마를 고려했던 일화부터, 월트코인(Worldcoin)의 모회사인 툴스 포 휴머니티(Tools for Humanity)를 통해 소득 분배 실험에 나선 과정까지 자세히 풀어냈다. “과거에 국가가 수행했던 목표들을 기술이 어디까지 대신할 수 있는지 알아보고 싶었다”는 올트먼의 발언을 인용하기도 했다.

전체적으로 볼 때 《낙관주의자》는 보다 전형적인 비즈니스 전기에 가깝다. 헤이지는 수많은 단독 보도와 깊이 있는 분석, 그리고 대중에 알려지지 않은 일화들을 책에 촘촘히 담아냈다. 특히 책의 후반부로 갈수록 오픈AI의 이야기가 본격적으로 전개되며 한층 더 몰입감 있는 서사가 펼쳐진다.

헤이지는 하오보다 올트먼과 그 주변 인물들에 훨씬 더 깊숙이 접근할 수 있었고, 이를 바탕으로 그의 개인적·직업적 삶을 보다 입체적으로 그려낼 수 있었던 것으로 보인다.

일례로 두 저자 모두 올트먼의 여동생 애니(Annie)의 비극적인 이야기를 다뤘다. 가족과 단절된 채 살아온 애니가 오빠인 샘 올트먼에게 성적 학대를 당했다고 주장했고, 이에 대해 올트먼과 그의 가족들은 강력히 부인한 일화도 담겨있다. 그러나 헤이지는 보다 복합적인 시선에서 이 사건을 조명하며, 그의 가족 내 역학관계를 깊이 있게 파헤친다.

헤이지는 인류 역사 속에서 자신이 어떤 역할을 맡게 될지에 대한 올트먼의 고민으로 이야기를 마무리한다. 특히 ‘슈퍼인텔리전스(superintelligence)’를 창조한다는 것이 지니는 의미는, 올트먼이 스스로 끊임없이 되새기는 주제이기도 하다. 실제로 앞서 폴 그레이엄이 GPT-4를 어떻게 보존할 수 있을지 묻자, 올트먼은 곧바로 준비된 답변을 내놓았다. 그는 “그 문제는 이미 고려한 바 있다”며 “그 금속판은 가로세로 100미터는 되어야 할 것”이라고 말했다.

The post ‘제국’이 된 오픈AI, 이상은 야망에 묻혔다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.