오픈AI의 불편한 진실을 파헤치다
2019년 MIT 테크놀로지 리뷰의 선임 기자였던 카렌 하오(Karen Hao)는 당시 거의 알려지지 않았던 오픈AI에 관한 기사를 써보자고 제안했다. 이후 수개월에 걸친 취재 끝에 그녀는 오픈AI가 창립 당시 내세웠던 사명에서 얼마나 멀어졌는지를 날카롭게 조명했다.
2019년 MIT 테크놀로지 리뷰 선임 기자였던 캐런 하오(Karen Hao)가 당시에는 거의 알려지지 않았던 오픈AI에 대한 취재를 나에게 제안했다. 그녀가 맡은 프로젝트 가운데 가장 야심 찬 시도였다. 이후 수개월에 걸쳐 진행된 취재는 뜻밖의 과정을 거쳐 오픈AI가 창립 당시 내세운 사명에서 얼마나 멀어졌는지를 선명히 드러냈다. 완성된 기사는 한계점에 다다렀거나 혹은 이미 그 선을 넘은 기업의 미래를 날카롭게 예견했다. 오픈AI는 이 기사에 불편한 기색을 감추지 않았다. 하오의 신간 《AI 제국: 샘 올트먼의 오픈AI가 꾸는 꿈과 악몽(Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI)》은 AI 경쟁의 포문을 연 오픈AI의 실체와 그 경쟁이 우리 모두에게 의미하는 바를 깊이 있게 짚어낸다. 이 글은 그 취재의 시작을 담은 발췌문이다. — 니얼 퍼스(Niall Firth) MIT 테크놀로지 리뷰 편집장
필자는 2019년 8월 7일 오픈AI의 사무실에 도착했다. 당시 31세였던 그렉 브로크만(Greg Brockman) 최고기술책임자(CTO)는 사장 취임을 앞두고 있었다. 그는 계단을 내려와 필자를 맞이했다. 그는 조심스러운 미소와 함께 필자에게 손을 내밀며 “누군가에게 이렇게 많은 접근 권한을 준 건 이번이 처음”이라고 말했다.
당시만 해도 오픈AI는 AI 연구자들 사이에서만 알려진 기업에 불과했다. 하지만 필자는 MIT 테크놀로지 리뷰에서 인공지능(AI)의 끊임없는 확장을 취재하며 오픈AI의 행보를 예의주시하고 있었다.
그때까지 오픈AI는 AI 연구계에서 일종의 이단아처럼 여겨졌다. 오픈AI 외의 대부분의 전문가들이 범용인공지능(AGI)의 실현 가능성 자체에 회의적이었던 반면, 오픈AI는 이를 10년 안에 구현할 수 있다는 다소 터무니없어 보이는 주장을 내세웠다. AI 업계에서 활동하던 많은 이에게 오픈AI는 명확한 방향성이 없는데도 막대한 자금을 확보한 조직이었고, 그 중 상당 부분을 다른 연구자들이 ‘독창성 없는 연구’라고 폄하했던 연구를 홍보하는 데 쓴다고 여겨졌다. 일부에게 오픈AI는 질투의 대상이기도 했다. 비영리 조직이었던 오픈AI는 상업화를 추구하지 않겠다고 선언했고, 오픈AI는 외부의 간섭 없이 자유롭게 아이디어를 실험할 수 있는 보기 드문 지적 실험장이었다.
필자가 방문하기 전 6개월 동안 오픈AI는 연이어 중대한 변화를 발표하며 조직의 방향성이 근본적으로 바뀌고 있음을 드러냈다. 시작은 GPT‑2 비공개 결정이었다. 하지만 동시에 회사는 모델의 성능을 적극 홍보하며 모순적인 모습을 보였다. 이어 스타트업 투자기관 와이콤비네이터(Y Combinator)의 CEO 자리에서 돌연 물러난 샘 올트먼이 ‘수익 상한(cap‑profit)’이라는 생소한 구조와 함께 오픈AI의 CEO로 취임한다는 발표가 뒤따랐다. 필자의 현장 방문 일정이 확정된 뒤에는 마이크로소프트와의 파트너십 체결 사실도 공개됐다. 이 계약으로 마이크로소프트는 오픈AI 기술의 상용화에 대한 우선권을 확보했으며 해당 기술은 마이크로소프트의 클라우드 플랫폼인 애저(Azure)에서만 독점적으로 제공할 수 있게 되었다.
오픈AI의 발표는 매번 새로운 논란과 강렬한 추측을 불러일으켰고, 기술 업계를 넘어 점차 더 넓은 영역에서 관심을 끌기 시작했다. 필자와 동료 기자들은 이러한 변화를 취재하면서도 그 당시 벌어지고 있던 일을 완전히 파악할 수는 없었다. 분명한 것은, 오픈AI가 AI 연구뿐 아니라 정책 입안자들의 기술 인식하고 이해하는 방식에도 점점 더 큰 영향을 미치고 있다는 점이었다. 연구소를 부분적으로 영리 조직으로 전환하기로 한 결정은 산업계와 정부 전반에 걸쳐 상당한 파급 효과를 불러올 것이 확실해 보였다.
어느 날 밤 필자는 편집장의 권유로 잭 클라크(Jack Clark) 오픈AI 정책 총괄자에게 이메일을 보냈다. 그는 전에 필자가 인터뷰했던 인물이었다. 필자는 2주간 해당 지역에 머물 예정이고 지금이 오픈AI 역사에서 중요한 시점이라는 생각이 든다고 전하며 기업 소개 기사를 제안했다. 클라크는 이메일을 홍보 책임자에게 전달했고 곧 답장이 왔다. 오픈AI는 대중에게 자사를 새롭게 소개할 준비가 되어 있었다. 필자는 3일 동안 오픈AI에 상주하며 경영진을 인터뷰하고 조직 내부를 밀착 취재할 기회를 얻게 되었다.
필자는 일리야 수츠케버(Ilya Sutskever) 오픈AI 최고과학자, 그리고 그렉 브로크만과 함께 유리로 된 회의실에서 인터뷰를 진행했다. 긴 회의용 테이블에 나란히 앉은 두 사람은 인상적인 대조를 이뤘다. 실무형 개발자인 브로크만은 긴장한 듯 몸을 앞으로 숙이며 좋은 인상을 주려 했고, 연구자이자 이론가인 수츠케버는 의자에 느긋하게 기대어 여유롭고 다소 무심한 태도를 보였다.
필자는 노트북을 열고 질문지를 훑으며 인터뷰를 시작했다. “오픈AI의 사명은 유익한 AGI를 만드는 것이다. 특히 이 문제에 수십억 달러를 투자하는 이유는 무엇인가?”
브로크만은 크게 고개를 끄덕이며 답했다. “우리가 AGI에 깊은 관심을 두고 개발에 힘쓰는 이유는 인간의 역량을 넘는 복잡한 문제들을 해결할 열쇠라고 믿기 때문이다.” 그는 오픈AI의 입장을 대변하는 데 익숙해 보였다.
그는 AGI 신봉자들 사이에서 일종의 정답처럼 여겨지는 두 가지 사례를 언급했다. 기후변화와 의료 문제였다. “기후변화는 매우 복잡한 문제이다. 어디서부터 어떻게 해결해야 할지조차 막막하다.” 이어 그는 “미국에서는 건강보험이 정치적으로도 중요한 이슈다. 어떻게 하면 더 나은 치료를 더 저렴한 비용으로 제공할 수 있을까?”라고 말했다.
의료 문제와 관련해 그는 희귀 질환을 앓는 친구가 여러 전문의를 전전하며 고생한 이야기를 들려주었다. 그는 AGI가 이 모든 전문 분야를 통합할 수 있으며 그의 친구 같은 사람들은 더 이상 치료법을 찾느라 에너지를 낭비하고 좌절하지 않아도 될 것이라고 설명했다.
필자가 다시 물었다. “그렇다면 AI가 아니라 AGI가 필요한 이유는 무엇인가?”
이는 중요한 차이였다. 한때 기술 업계에서도 외면받던 ‘AGI’라는 개념은 최근 오픈AI의 영향으로 일반 대중 사이에서도 자주 언급되기 시작했다.
오픈AI의 정의에 따르면 AGI는 AI 연구의 이론적 정점에 해당한다. AGI는 인간의 정신처럼 정교하고 민첩하며 창의적인 소프트웨어로 (경제적 가치가 있는) 대부분의 작업에서 인간을 능가하거나 최소한 대등한 수준의 성과를 내는 것을 목표로 한다. 여기서 핵심은 ‘이론적’이라는 단서이다. 수십 년 전 본격적인 AI 연구가 시작된 이후 이진법으로 작동하는 실리콘 칩이 뇌와 인간의 지능을 구성하는 생물학적 과정을 모방할 수 있을지를 두고 오랜 논쟁이 이어져 왔다. 그 가능성을 입증할 명확한 증거는 아직 제시되지 않았으며 이를 개발하는 것이 바람직한지에 대한 규범적 논의도 본격적으로 이뤄지지 않았다.
반면 AI는 현재 사용 중인 기술과 기존 역량을 개선해 가까운 미래에 실현 가능한 기술을 아우르는 일반적인 용어이다. 이러한 기술은 ‘머신러닝’으로 알려진 강력한 패턴 인식 기능을 기반으로 하며 이미 기후변화 대응이나 의료 서비스 분야에서 흥미로운 활용 사례들을 보여주고 있다.
수츠케버가 의견을 보탰다. 그는 “복잡한 글로벌 문제를 해결하는 과정에서 가장 큰 걸림돌은 인간과 관련이 있다. 인구는 많고, 소통은 느리고, 업무 속도는 더디며, 동기 체계도 제각각이다”이라고 말했다. 이어 그는 “하지만 AGI는 다르다. 지능을 갖춘 컴퓨터들이 대규모 네트워크로 연결되어 있다고 상상해 보라. 각자가 의료 진단을 수행하면서 결과를 실시간으로 공유할 수 있다”고 설명했다.
그의 설명은 AGI의 목표가 인간을 대체하는 것이라는 말처럼 들렸다. 수츠케버는 정말 그런 의도로 말한 것일까? 몇 시간 후 필자는 수츠케버가 떠난 자리에서 브로크만에게 물었다.
브로크만은 즉시 부인했다. “이 점은 꼭 짚고 넘어가야 한다. 기술의 목적은 무엇인가? 기술은 왜 존재하는가? 우리는 왜 기술을 개발하는가? 인류는 수천 년 동안 기술을 발전시켜 왔고 그 이유는 단 하나, 사람을 위해서다. 우리가 개발하려는 AGI도 예외는 아니다. 사람을 중심에 두고 사람을 위해 작동해야 한다.”
잠시 뒤 그는 역사적으로 기술로 인해 일자리가 사라지고 또 새로 생겨나기도 했다는 점을 인정했다. 오픈AI가 해결해야 할 과제는 AGI를 통해 모두에게 ‘경제적 자유’를 제공하고 사람들이 새로운 현실 속에서도 ‘의미 있는 삶’을 이어갈 수 있도록 하는 것이다. 그 목표가 실현된다면 인류는 생존을 위한 노동에서 벗어날 수 있을 것이다.
브로크만은 “그건 정말 멋진 일이라고 생각한다”고 말했다.
수츠케버와 함께한 인터뷰 자리에서 브로크만은 필자에게 보다 거시적인 관점을 제시했다. 그는 “AGI를 개발할지 여부를 결정하는 주체는 우리가 아니다”라고 말했다. 실리콘밸리에서 자주 등장하는 ‘우리가 하지 않으면 다른 누군가가 할 것’이라는 논리였다. 그는 “이미 방향은 정해져 있다. 다만 우리는 AGI가 어떤 초기 조건으로 개발될지에 영향을 미칠 수 있다”고 강조했다.
이어서 그는 “오픈AI의 역할은 무엇인가? 우리의 진짜 목적은 무엇인가? 우리의 사명은 인류 전체에게 이로운 AGI를 개발하고 그로 인해 발생하는 경제적 이익을 모두와 나누는 것”이라고 말했다.
그의 말투는 단호하고 확신에 차 있었으며 필자의 질문에 마침표를 찍으려는 듯했다. 하지만 어째서인지 대화는 다시 원점으로 돌아온 듯한 느낌을 주었다.
인터뷰는 계속 제자리를 맴돌았고 결국 45분이 지나 마무리됐다. 필자는 AGI가 구체적으로 어떤 모습이 될 것인지, 그리고 AGI가 왜 인류에게 유익할 것이라고 확신하는지를 여러 차례 물었지만 명확한 답을 얻지 못했다. 그들은 AGI라는 개념 자체가 아직 명확하지 않기 때문에 그 답을 알 수 없다고 설명했다. 이에 필자는 접근 방식을 바꿔 AGI가 초래할 수 있는 부작용에 대한 사례를 설명해 달라고 요청했다. 이는 오픈AI가 설립 당시 내세운 핵심 논리이기도 했다. 누군가 ‘나쁜 AGI’를 만들기 전에 자신들이 ‘좋은 AGI’를 만들어야 한다는 것이다.
브로크만은 딥페이크를 예로 들며 “이 기술이 세상을 더 좋게 만들었는지는 확신할 수 없다”고 답했다.
필자도 우려되는 부분을 지적하며 “기후변화와 관련해 AI 기술 자체가 환경에 미치는 영향에 대해서는 어떻게 생각하는가?”라고 질문했다. 매사추세츠 대학교 애머스트 캠퍼스의 한 연구에 따르면 대형 AI 모델의 훈련 과정에서 막대한 양의 탄소가 배출된다.
수츠케버는 “부정할 수 없는 사실”이라고 인정하면서도 “AGI는 그러한 환경적 비용을 다른 방식으로 상쇄할 수 있을 것”이라고 주장했다. 하지만 구체적인 근거는 제시하지 않았다.
그는 “데이터 센터가 최대한 친환경적으로 운영되어야 한다는 점에는 이견이 없다”고 덧붙였다.
브로크만은 “그건 당연한 사실”이라며 짧게 웃었다.
수츠케버는 “데이터 센터는 전기를 가장 많이 소비하는 시설”이라고 덧붙이며 이 문제를 인식하고 있고 중요하게 여긴다는 인상을 주려는 듯한 태도를 보였다.
필자가 “전 세계 에너지 소비의 2%에 해당한다”고 말하자 브로크만은 “비트코인은 약 1%쯤 되지 않나?”라고 되물었다.
그러자 수츠케버는 갑자기 “우와!”하고 감탄사를 내뱉었다. 이미 대화가 40분 넘게 이어진 상황에서 그의 반응은 다소 작위적으로 느껴졌다.
수츠케버는 이후 《지니어스 메이커스(Genius Makers)》의 저자이자 뉴욕타임스 기자인 케이드 메츠(Cade Metz)와의 인터뷰에서 “전 지구가 데이터 센터와 발전소로 덮일 날이 머지않았다”고 말했다. 웃음기 없이 진지한 말투였다. 그는 “거대한 컴퓨팅 쓰나미가 몰려올 것이다… 마치 자연 현상처럼”이라고 예견하며 AGI와 이를 뒷받침할 데이터 센터는 “너무 유용해서 사라질 수 없는 존재”라고 주장했다.
필자는 다시 한번 질문을 던졌다. “결국 오픈AI는 유익한 AGI를 성공적으로 개발해 지구온난화를 해결하겠다는 엄청난 도박을 하고 있는 셈이다. 하지만 그러한 시도 자체가 오히려 온난화를 더 악화시킬 수도 있지 않은가?”
브로크만은 재빨리 말을 끊으며 말했다. “그 문제는 너무 깊게 들어가지 말자. 우리의 관점은 이렇다. 지금 AI는 가파른 발전 곡선을 그리고 있고 이는 오픈AI만의 일이 아니다. 업계 전체의 흐름이며 실제로 사회는 그를 통해 이익을 얻고 있다.”
그는 이어서 마이크로소프트가 오픈AI에 10억 달러(약 1조 3,600억 원)를 투자한 날을 언급하며 “그날 마이크로소프트의 시가총액이 100억 달러(약 13조 6,500억 원)나 올랐다. 사람들은 단기적인 기술 발전만으로도 수익을 실현할 수 있다고 믿는다”고 덧붙였다.
브로크만에 따르면 오픈AI의 전략은 단순했다. 변화의 흐름에서 뒤처지지 않는 것이다. 그는 “그게 우리가 따라야 할 기준이다. 우리는 계속 전진해야 하며 그것이 우리가 올바른 방향으로 가고 있다는 증거”라고 강조했다.
그날 오후 브로크만은 오픈AI에서 일하면서 가장 어려운 점은 아무도 AGI의 실체를 정확히 예측할 수 없다는 데 있다고 거듭 설명했다. 그럼에도 불구하고 오픈AI의 연구자와 엔지니어들은 그 실체를 하나씩 밝혀내는 데 끊임없이 몰두하고 있었다.
그는 마치 AGI가 이미 대리석 안에 존재하며 자신은 단지 그 모습을 드러내기 위해 조각을 깎아내기만 하면 된다고 믿는 미켈란젤로처럼 말했다.
한편 방문 일정에는 변화가 생겼다. 원래 필자는 직원 식당에서 점심을 함께할 예정이었지만 알 수 없는 이유로 사무실 밖으로 자리를 옮기게 되었다. 브로크만이 동행했고 우리는 길을 건너 직원들이 자주 찾는 단골 야외 카페로 향했다.
이러한 분위기는 방문 기간 내내 반복되었다. 출입이 제한된 층, 참석할 수 없는 회의, 홍보 책임자의 눈치를 보며 말을 아끼는 연구자들. 나중에 알게 된 사실이지만 필자의 방문 이후 잭 클라크는 사내 메신저를 통해 ‘허가된 대화 외에는 기자와 이야기하지 말라’는 이례적으로 엄격한 공지문을 올렸고 경비원에게는 필자의 사진과 함께 무단출입 여부를 감시하라는 지시가 내려졌다. 투명성을 표방하는 오픈AI의 방침을 고려할 때 다소 모순된 조치였다. 모든 연구가 인류에게 이롭게 쓰이고 결국 대중에게 공개될 예정이라면 대체 무엇을 그토록 감추려는 것일까?
점심 식사와 이후 며칠 동안 필자는 브로크만에게 오픈AI를 공동 창업한 이유를 집요하게 물었다. 그는 10대 시절 인간의 지능을 재현할 수 있을지도 모른다는 생각에 처음 매료되었다고 회고했다. 계기가 된 것은 영국 수학자 앨런 튜링(Alan Turing)의 유명한 논문이었다. ‘이미테이션 게임(The Imitation Game)’이라는 제목의 논문 첫 장은 “기계가 생각할 수 있는가?”라는 질문으로 시작한다. 2014년에는 베네딕트 컴버배치와 키이라 나이틀리가 출연한 동명의 영화도 제작되었다. 이 논문에서 튜링은 훗날 튜링 테스트(Turing test)라 불리게 된 기준을 제시한다. 즉, 기계가 사람과 대화하면서 자신이 기계라는 사실을 들키지 않으면 지능이 있다고 볼 수 있다는 개념이다. AI 업계에서 자주 회자되는 전형적인 입문담이었다. 브로크만은 깊은 감명을 받아 직접 튜링 테스트 게임을 만들어 온라인에 올렸고 약 1,500명이 접속했다. 그는 당시 엄청난 성취감을 느꼈다며 “그 순간 내가 하고 싶은 일이 무엇인지 확신하게 되었다”고 말했다.
AI 기술이 비약적으로 발전하던 2015년 브로크만은 자신의 원래 목표로 돌아갈 때가 왔다고 판단하고 오픈AI의 공동 창업자로 합류했다. 그는 “AGI를 실현할 수 있다면 무슨 일이든 하겠다. 청소부가 되더라도 상관없다”는 다짐을 메모에 남겼다. 4년 뒤 그는 오픈AI 사무실에서 간소한 결혼식을 올렸다. 회사의 육각형 로고를 형상화한 꽃장식 벽이 설치되었고 수츠케버가 주례를 맡았다. 실험용 로봇 손이 반지를 들고 입장 통로에 서 있었는데 마치 디스토피아 세계에서 온 파수꾼 같았다.
브로크만은 “나는 평생 AGI를 연구하며 살고 싶다”고 말했다.
“당신을 움직이는 원동력은 무엇인가?”라는 필자의 질문에 그는 되물었다.
“살아 있는 동안 세상을 바꿀 기술이 등장할 가능성이 얼마나 된다고 보는가?”
그는 그러한 변화를 실현할 주체는 자신과 그의 팀뿐이라고 믿고 있었다. 그는 “나는 내가 변화시킬 수 있는 문제에 큰 매력을 느낀다”고 말했다.
사실 브로크만이 되고 싶었던 것은 청소부가 아니었다. 그는 AGI를 이끄는 인물이 되고 싶었고 역사에 이름을 남기고 싶다는 열망으로 가득 차 있었다. 위대한 혁신가들처럼 언젠가는 사람들이 자신의 이야기를 경외심과 존경을 담아 전해주기를 바라고 있었다.
인터뷰가 진행되기 1년 전 그는 타호 호수에서 열린 비공개 행사에서 젊은 기술 창업자들에게 물었다. “기억에 남는 유명한 CTO가 있는가?” 참석자들은 좀처럼 답하지 못했다. 그는 자신이 그런 인물이 되고자 노력했고 결국 그 목표를 이뤘다.
2022년 그는 오픈AI의 사장으로 취임했다.
브로크만은 대화 내내 조직 구조는 바뀌었지만 오픈AI의 핵심 사명은 흔들리지 않았다고 거듭 강조했다. 그는 수익 상한 구조와 새로운 투자자들이 오히려 오픈AI의 철학을 더욱 굳건히 만들었다고 설명했다. 그는 “우리는 수익보다 사명을 우선시하는 투자자들을 확보했다. 이는 정말 놀라운 일”이라고 말했다.
이제 오픈AI는 모델을 대규모로 확장하고 경쟁에서 앞설 수 있는 장기적인 자원을 확보하게 되었다. 브로크만은 이 점이 매우 중요하다고 강조했다. 경쟁에서 뒤처지는 것이야말로 오픈AI의 사명을 근본적으로 위협하는 진짜 위험이라는 것이다. 주도권을 잃는 순간 유익한 AGI라는 원대한 비전도 사라지게 된다. 당시 필자는 이 말의 진의를 완전히 이해하지 못했다. 그러나 시간이 지난 후 필자는 ‘먼저 도달하지 못하면 의미가 없다’는 믿음이야말로 오픈AI의 모든 행동과 그로 인한 파급 효과를 결정짓는 전제였음을 깨닫게 되었다. 그들은 신중한 숙고 대신 다른 누구보다 빨리 도달해야 한다는 압박 속에서 연구를 이어갔다. 이러한 사고방식은 오픈AI의 천문학적인 자원 투입을 정당화하는 근거가 되었다. 그들은 환경에 미치는 영향을 고려하지 않은 채 연산 자원을 쏟아붓고 사용자 동의나 규제를 무시한 채 방대한 데이터를 수집하는 데 열을 올렸다.
브로크만은 마이크로소프트의 시가총액이 100억 달러나 증가한 사실을 다시 언급하며 “AI가 실제로 가치를 창출하고 있다는 증거”라고 주장했다. 그는 현재 그러한 가치가 부유한 대기업에 집중되고 있다는 점을 인정하며 그렇기 때문에 AGI의 혜택을 모두에게 분배하는 오픈AI의 두 번째 사명이 중요하다고 덧붙였다.
필자는 “역사적으로 기술의 이점이 모두에게 공평하게 분배된 사례가 있었는가?”라고 질문했다.
브로크만은 잠시 머뭇거리다 “인터넷을 예로 들어 보면 꽤 흥미롭다”며 입을 열었다. 그는 “물론 문제도 있다. 아주 혁신적인 기술이 등장했을 때 긍정적 효과를 극대화하고 부정적 영향을 최소화하는 일은 언제나 어렵다”고 단서를 달았다.
이어 그는 “불도 마찬가지다. 유용하지만 분명한 단점이 있다. 따라서 통제하는 방법과 공통된 기준을 마련해야 한다”고 말했다.
그는 “자동차도 좋은 예다. 수많은 사람들이 자동차를 이용하고 혜택을 누리지만 바람직하지 않은 외부 효과도 있다”며 조심스럽게 답변을 마무리했다.
브로크만은 “우리가 AGI에 기대하는 것도 본질적으로는 다르지 않다. 인터넷, 자동차, 불처럼 인류에게 도움이 되길 바란다. 물론 구현 방식은 완전히 다르다. AGI는 완전히 다른 차원의 기술이기 때문”이라고 말했다.
그러던 중 그는 뭔가 떠오른 듯 새로운 비유를 제시했다. “전기나 가스 같은 공공 서비스를 생각해 보자. 전력회사는 중앙집중적으로 운영되지만 저렴한 비용으로 양질의 서비스를 제공하며 사람들의 삶을 실질적으로 개선하고 있다.”
인상적인 비유였다. 하지만 오픈AI가 어떻게 그런 공공재로 기능할 수 있을지에 대해서는 여전히 확신을 보이지 않았다. 그는 보편적 기본소득이 하나의 방안이 될 수 있다고 말했지만 뚜렷한 해답은 내놓지 못했다.
결국 그는 자신이 확신하는 단 하나의 원칙을 다시 강조했다. 오픈AI는 AGI의 이익을 모두에게 재분배하고 모든 사람이 경제적 자유를 누릴 수 있도록 노력하고 있다는 것이다. 그는 “이것이야말로 우리가 진심으로 추구하는 목표”라고 말했다.
브로크만은 “지금까지 기술은 전반적인 부의 수준을 끌어올리는 데 기여해 왔지만 동시에 자산을 집중시키는 경향도 분명히 존재한다”며 “AGI는 이보다 훨씬 더 극단적인 결과를 낳을 수 있다. 만약 모든 가치가 단 하나의 주체에 집중된다면 어떻게 될 것인가? 현재 우리 사회는 그러한 방향으로 나아가고 있다. 아직 그 끝을 경험한 것은 아니지만 그런 세상이 바람직하다고 생각하지 않는다. 나는 그런 세상을 원하지도, 그것을 만드는 데 일조하고 싶지도 않다”고 말했다.
2020년 2월 필자는 오픈AI 사무실에서의 관찰, 30건이 넘는 인터뷰, 그리고 몇 가지 내부 문건을 토대로 MIT 테크놀로지 리뷰에 오픈AI에 관한 기업 탐사 기사를 발표했다. 필자는 “오픈AI는 외부에 내세우는 가치와 실제 내부 운영 방식 사이에는 괴리가 존재한다”며 “치열한 경쟁과 지속적인 자금 압박으로 인해 시간이 흐를수록 오픈AI의 창립 이념이었던 투명성, 개방성, 협력 정신이 점차 훼손되고 있다”고 지적했다.
기사가 공개된 지 몇 시간 후 일론 머스크는 세 건의 트윗을 연달아 게시했다.
“오픈AI는 지금보다 훨씬 더 개방적으로 변해야 한다.”
“나는 오픈AI에 대한 통제권이 없으며 내부 운영 상황도 거의 알지 못한다. 특히 안전 문제에 있어 다리오를 크게 신뢰하지 않는다.” 연구 책임자 다리오 아모데이(Dario Amodei)를 겨냥한 발언이었다.
“첨단 AI를 개발하는 모든 조직에 대한 규제가 필요하다. 테슬라도 예외는 아니다.”
이후 샘 올트먼은 오픈AI 직원들에게 이메일을 보내 다음과 같이 밝혔다.
“MIT 테크놀로지 리뷰 기사에 대한 내 생각을 공유하고 싶다. 크게 문제가 될 내용은 아니지만 분명 유쾌한 기사도 아니었다.”
올트먼은 기사에서 오픈AI에 대한 대중의 인식과 실제 운영 사이의 괴리를 지적한 점은 “정당한 비판이었다”고 평가했다. 하지만 그는 내부 운영 방식을 바꾸기보다는 오픈AI의 대외적 메시지를 조정하는 방식으로 충분히 문제를 해결할 수 있다고 판단했다. 그는 “우리가 유연하게 대응하고 적응하는 방법을 찾아낸 것은 부정적으로 볼 일이 아니라 오히려 긍정적인 일”이라며 조직 구조 개편과 기밀성 강화를 포함한 일련의 변화는 “더 많은 것을 배우면서 사명을 달성하기 위한 조치”라고 설명했다. 올트먼은 당분간은 필자의 기사에 대응하지 말고 몇 주 후에 오픈AI가 개편된 조직에서도 여전히 창립 원칙을 고수하고 있다는 점을 강조하자고 제안했다. 이어 그는 “이는 API는 개방성과 이익 공유 전략의 일환이라는 점을 강조할 기회가 될 수도 있다”고 덧붙였다. API는 오픈AI의 모델을 외부에 제공하는 응용 프로그래밍 인터페이스를 뜻한다.
그는 이어 “내가 가장 심각하게 여기는 문제는 누군가 내부 문서를 유출했다는 점”이라고 말했다. 그는 이미 관련 조사를 시작했으며 전 직원에게 진행 상황을 지속적으로 공유하겠다고 밝혔다. 머스크의 비판에 관해서는 “이번 발언은 과거에 비해 온건한 편이지만 여전히 바람직한 행동은 아니었다”고 평가하며 아모데이와 머스크가 직접 만나 입장을 조율하길 바란다고 덧붙였다. 그는 “아모데이의 업무와 AI 안전은 우리 사명의 핵심”이라고 분명히 밝혔다. 또한 “앞으로 적절한 시점에 우리 팀의 입장을 공개적으로 옹호할 방안을 모색할 필요가 있다(다만 지금은 언론이 원하는 식의 공개적인 논쟁을 피해야 한다)”고 밝혔다.
그 후 오픈AI는 3년간 필자의 추가 인터뷰 요청에 응하지 않았다.
캐런 하오의 저서 《AI 제국: 샘 올트먼의 오픈AI가 꾸는 꿈과 악몽》에서 발췌. 2025년 5월 20일 펭귄 랜덤 하우스(Penguin Random House LLC.) 산하 펭귄 퍼블리싱 그룹(Penguin Publishing Group)의 출판 브랜드 펭귄 프레스(Penguin Press)에서 출간. Copyright © 2025 by Karen Hao.
The post 오픈AI의 불편한 진실을 파헤치다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.