[인터뷰] 오픈AI 연구의 미래를 이끌어 가고 있는 두 사람

오픈AI 연구 부서의 공동 책임자인 마크 첸 최고연구책임자, 야쿠프 파초츠키 최고과학자와의 독점 인터뷰를 통해 더 강력한 추론 모델을 개발하기 위해 나아갈 방향과 ‘초정렬’에 대한 이야기를 나눴다.

지난 몇 년 동안 오픈AI는 마치 ‘1인 기업’처럼 느껴졌다. 샘 올트먼(Sam Altman) CEO가 너무 유명해서 회사의 다른 주요 인물들이 눈에 띄지 않을 정도였기 때문이다. 게다가 이사회에서 그를 해고했다가 5일 만에 다시 복귀하는 것으로 마무리된 ‘해임 소동’도 결국 올트먼을 더 유명하게 만드는 사건에 그치고 말았다. 그러나 올트먼 뒤에 가려진 부분을 들여다보면 오픈AI가 현재 어디로 향하고 있는지 더 명확하게 파악할 수 있다. 사실 오픈AI의 명성을 떠받치는 기술을 실제로 만드는 사람은 올트먼이 아니기 때문이다.

오픈AI의 기술 개발은 공동 연구 책임자인 마크 첸(Mark Chen) 최고연구책임자와 야쿠프 파초츠키(Jakub Pachocki) 최고과학자가 담당하고 있다. 이 두 사람은 오픈AI가 구글과 같은 강력한 경쟁사들보다 항상 한발 앞서 있도록 유지하는 역할을 공동으로 맡고 있다.

오픈AI는 2023년 런던에 첫 해외 지사를 설립한 바 있다. 필자는 첸 최고연구책임자와 파초츠키 최고과학자가 최근 런던 지사에 방문했을 때 두 사람과 독점 인터뷰를 진행했다. 우리는 연구와 실제 제품 개발 사이의 간극을 어떻게 조율하는지 이야기를 나눴다. 또한 코딩과 수학이 더 강력한 범용 모델을 개발하기 위한 핵심 요소라고 생각하는 이유, 두 사람이 생각하는 범용인공지능(AGI)의 실제 의미, 오픈AI의 초정렬(superalignment, 슈퍼얼라인먼트)팀에 있었던 일에 대해서도 이야기를 나눴다. 초정렬팀은 일리야 수츠케버(Ilya Sutskever) 오픈AI 공동 설립자이자 전 최고과학자가 가상의 ‘초지능’이 통제를 벗어나는 상황을 방지하기 위해 만들었으나 그의 퇴진 직후 해체된 팀이다.

특히 필자는 앞으로 몇 달 안에 출시될 것으로 보이는 GPT-5에 대해서 어떤 생각을 하고 있는지 알고 싶었다.

보도에 따르면 GPT-5는 8월에 출시될 예정이다. 오픈AI의 공식 입장(정확히 말하면 올트먼 CEO의 입장)은 “GPT-5가 ‘곧’ 출시된다”는 것이다. GPT-5에 대한 기대감은 높다. 오픈AI는 GPT-3와 GPT-4를 출시하면서 생성형 AI로 가능한 것들에 대한 기준을 높혔다. 그러나 GPT-5 출시가 지연되면서 오픈AI가 자사의 기준뿐 아니라 사람들의 기대치를 충족하는 모델을 만드는 데 어려움을 겪고 있다는 소문이 돌고 있다.

그렇다고 해도 지난 몇 년간 업계의 방향을 설정해 온 회사로서는 그러한 기대치를 관리하는 것 또한 업무의 일부이다. 그리고 첸 최고연구책임자와 파초츠키 최고과학자는 오픈AI 내부에서 바로 그 방향을 결정하는 인물들이다.

쌍두마차

오픈AI의 런던 지사는 버킹엄 궁전에서 동쪽으로 몇백 미터 떨어진 곳에 있는 세인트제임스파크에 위치해 있다. 그러나 필자는 킹스크로스 근처 공유 오피스의 회의실에서 첸 최고연구책임자와 파초츠키 최고과학자를 만났다. 이곳은 오픈AI가 런던의 기술 중심지 한복판에 마련한 일종의 ‘임시 거처’이다. 바로 근처에는 구글 딥마인드와 메타도 있다. 오픈AI의 로랑스 포코네(Laurance Fauconne) 연구 커뮤니케이션 책임자도 노트북을 열고 테이블 끝에 앉았다.

첸 최고연구책임자는 버건디색 폴로 셔츠를 깔끔하게 입은 단정한 차림이었다. 그는 언론 대응 교육을 받은 듯 기자와의 대화에 익숙해 보였다. (GPT-4o 소개 영상에서 챗봇과 농담을 주고받는 사람이 바로 첸 최고연구책임자이다.) 반면, 코끼리 로고가 그려진 검은색 티셔츠를 입은 파초츠키 최고과학자는 드라마 속 해커에 가까워 보였다. 그는 말을 할 때 손을 자주 바라보았다.

외모에서 풍기는 분위기는 달라 보이지만 이 두 사람은 매우 긴밀한 파트너이다. 파초츠키 최고과학자는 두 사람의 역할을 요약하면서 “첸 최고연구책임자는 연구팀을 조직하고 관리하며, 나는 연구 로드맵을 설정하고 장기적인 기술 비전을 수립하는 역할을 맡고 있다”고 설명했다.

첸 최고연구책임자는 “하지만 우리 역할은 유동적”이라고 덧붙였다. 그는 “우리는 둘 다 연구자고 기술적인 문제를 해결한다”며 “우리가 해결하고 개선할 수 있는 문제가 보이면 바로 그 일을 한다”고 설명했다.

첸 최고연구책임자는 월가의 제인스트리트캐피털(Jane Street Capital)에서 선물거래를 위한 머신러닝 모델을 개발하고 퀀트 트레이더(수치와 데이터를 기반으로 수익을 창출하는 트레이더)로 일하다가 2018년 오픈AI에 합류했다. 그는 오픈AI의 획기적인 생성형 이미지 모델인 DALL-E 개발을 주도했고, 이후 GPT-4에 이미지 인식 기능을 추가하는 작업과 깃허브 코파일럿(GitHub Copilot)을 구동하는 생성형 코딩 모델인 코덱스(Codex) 개발도 이끌었다.

파초츠키 최고과학자는 이론 컴퓨터 과학 분야에서 학계 경력을 쌓다가 2017년 오픈AI에 합류했고, 2024년 수츠케버의 뒤를 이어 최고과학자 자리에 올랐다. 수츠케버 전 최고과학자와 마찬가지로 그는 오픈AI의 추론 모델로 불리는 o1과 o3를 개발한 핵심 설계자 중 한 명이다. 이 모델들은 과학, 수학, 코딩 등 복잡한 작업을 처리할 수 있도록 설계됐다.

우리가 만났을 당시 두 사람은 오픈AI가 기술을 통해 연이어 거둔 두 가지 성과에 흥분해 있었다.

우선 7월 16일에는 오픈AI의 대형언어모델(LLM) 중 하나가 세계 최고 수준의 프로그래밍 대회인 앳코더 월드 투어 파이널(AtCoder World Tour Finals)에서 2위를 차지했다. 이어서 7월 19일에는 오픈AI가 자사의 한 모델이 세계에서 가장 권위 있는 수학 경시대회인 2025 국제수학올림피아드(IMO)에서 금메달 수준의 성적을 거뒀다고 발표했다.

오픈AI의 수학 경시대회 결과는 그 자체로 놀라운 성취이기도 했지만, 발표 이틀 뒤 경쟁사 구글 딥마인드가 같은 대회에서 자사 모델도 동일한 점수를 기록했다고 밝히면서 더욱 주목받게 되었다. 구글 딥마인드는 대회 규정을 준수하며 조직위원회의 채점을 기다린 후 결과를 공개했으나 오픈AI는 자체적으로 채점한 결과를 먼저 발표한 셈이었다.

그러나 첸 최고연구책임자와 파초츠키 최고과학자는 결과가 모든 것을 말해준다고 생각한다. 어쨌든 두 사람은 프로그래밍 대회 성과에 더 흥분을 보였다. 첸 최고연구책임자는 “성과가 저평가되고 있다고 생각한다”며 “국제수학올림피아드에서 금메달 수준의 성과를 보였다는 건 대회 참가자 중 상위 20~50명 안에 드는 성적이라는 의미이지만, 앳코더 대회에서 2위를 했다는 건 다른 인간 참가자들을 넘어선 성과이고 이건 전례 없는 일”이라고 설명했다.

출시! 출시! 출시!

오픈AI의 직원들은 여전히 ‘연구실’에서 일한다고 말하기를 좋아한다. 그러나 오픈AI는 3년 전 챗GPT를 출시하면서 크게 달라졌다. 이제 오픈AI는 세계에서 가장 규모가 크고 자본이 많은 기술 기업들과 경쟁 중이며 기업 가치는 3,000억 달러(약 416조 원)에 이른다. 이제는 한계를 실험하는 연구와 놀라운 데모만 공개하는 것으로는 충분하지 않다. 제품을 실제로 출시해 사람들의 손에 쥐여줘야 한다. 그리고 오픈AI는 실제로 그렇게 하고 있다.

오픈AI는 지속적으로 새로운 제품을 출시해 왔다. GPT-4 시리즈의 업데이트 버전을 공개하고, 생성형 이미지 및 영상 모델을 출시했으며, 목소리로 챗GPT와 대화하는 기능도 도입했다. 6개월 전에는 o1이라는 이름의 ‘추론 모델’을 출시해 새로운 유행을 선도했고, 곧이어 o3도 선보였다. 최근에는 브라우저를 사용하는 에이전트, ‘오퍼레이터(Operator)’를 대중에게 공개했다. 현재 오픈AI는 매주 4억여 명의 사용자가 자사 제품을 이용하고 있으며, 하루에 입력되는 프롬프트만 25억 개에 달한다고 주장한다.

오픈AI에 곧 부임 예정인 피지 시모(Fidji Simo) 애플리케이션 부문 CEO도 이러한 흐름을 이어갈 계획이다. 시모 CEO는 오픈AI 직원들에게 “오픈AI의 기술을 전 세계의 더 많은 사람들에게 제공해 역사상 다른 어떤 기술이 해냈던 것보다도 더 많은 기회를 열어줄 수 있기를 기대하고 있다”고 밝혔다. 따라서 오픈AI는 앞으로도 계속해서 새로운 제품을 내놓을 것이다.

필자는 오픈AI가 어떻게 자유로운 연구와 제품 개발을 동시에 진행할 수 있는지 물었다. 파초츠키 최고과학자는 “그건 우리가 챗GPT 이전부터 오랫동안 고민해 온 문제”라면서 “진지하게 AGI를 개발하려고 하다 보면 그 과정에서 개발하는 기술들로 많은 일을 할 수 있게 되고 그중 일부로는 대단한 제품을 만들 수 있게 된다고 생각한다”고 밝혔다.

오픈AI 직원들과 대화를 나누다 보면 실험적인 모델을 세상에 내놓는 것이 연구의 필수적인 부분이라는 이야기가 항상 나온다. 기술이 얼마나 발전하고 있는지를 사람들에게 인식시키는 것이 오픈AI의 목표였기 때문이다. 2022년 올트먼은 필자와의 대화에서 “우리는 기술이 어떻게 변화하고 있는지를 사람들에게 알리고 사회적 대화를 이끌고 싶다”고 밝힌 바 있다. 또한 오픈AI는 신기술이 실제로 어떤 식으로 사용될 수 있는지 알고 싶어 했다. 그래서 사람들에게 기술을 공개하고 어떻게 사용하는지 관찰했다.

오픈AI의 이러한 생각은 여전히 변하지 않았을까? 첸 최고연구책임자와 파초츠키 최고과학자는 동시에 “그렇다”고 답했다.

파초츠키 최고과학자는 “제품 개발이 연구의 목적이라고는 할 수 없지만, 이제는 모델들이 기존 벤치마크로 측정 가능한 성능의 한계에 도달했고 우리가 오랫동안 생각해 온 많은 도전 과제들도 하나씩 해결되고 있기 때문에 ‘우리가 개발한 모델들이 실제 세상에서 무엇을 할 수 있는가?’가 중요해졌다”고 설명했다.

그 한 가지 예가 바로 인간과의 코딩 대결이다. 올해 일본에서 열린 앳코더에서 오픈AI의 모델을 꺾고 우승을 차지한 사람은 ‘사이호(Psyho)’라는 닉네임으로 잘 알려져 있는 폴란드의 프세미스와프 뎅비아크(Przemysław Dębiak)라는 프로그래머였다. 이번 앳코더에서 참가자들은 복잡한 코딩 문제를 가장 효율적으로 해결하는 방법을 10시간 동안 찾아야 했다. 사이호는 우승 후 X에 “완전히 탈진했다, 거의 죽을 지경”이라고 적었다.

첸 최고연구책임자와 파초츠키 최고과학자는 이러한 코딩 대회와 깊은 인연이 있다. 두 사람 모두 과거에 국제 대회에 참가한 경력이 있으며, 첸 최고연구책임자는 현재 미국정보올림피아드(USACO) 팀의 코치이기도 하다. 필자는 이러한 개인적인 경험과 인연 덕분에 AI 모델이 코딩 대회에서 이루어 낸 성과가 더 특별하게 느껴지는지 물었다.

파초츠키 최고과학자는 “당연하다”고 웃으며 답했다. 그는 “사이호는 전설적인 인물이다. 수년간 1위를 지켜왔고 사실 내 친구이기도 하다. 우리는 과거에 이런 코딩 대회에서 함께 경쟁하곤 했다”고 말했다. 뎅비아크 프로그래머는 파초츠키 최고과학자와 함께 오픈AI에서 일한 적도 있다.

파초츠키 최고과학자는 코딩 대회에 출전하던 시절에 짧고 명확한 해답이 있는 문제를 선호했지만, 뎅비아크 프로그래머는 더 길고 정확한 답이 정해져 있지 않은 자유로운 문제를 선호했다.

파초츠키 최고과학자는 “그는 나에게 자주 농담처럼 ‘네가 좋아하는 유형의 대회는 내가 좋아하는 유형보다 훨씬 먼저 자동화될 것’이라고 말하곤 했다”며 “그래서 이번 대회에서 우리 모델이 성능을 발휘할 수 있도록 최선을 다했다”고 밝혔다.

파초츠키 최고과학자는 도쿄에서 열린 대회의 생중계를 밤새 보면서 자신이 개발한 모델이 2위를 차지하는 모습을 지켜봤다고 말했다. 그러면서 “사이호가 아직까지는 버티고 있다”고 농담처럼 말했다.

첸 최고연구책임자는 “우리는 코딩 대회에서 LLM이 어떤 성능을 보이는지 한동안 관찰해 왔다”며 “AI 모델이 나를 제치고 파초츠키를 넘어서는 모습을 지켜봤다”고 말했다. 두 사람은 AI 모델이 자신들을 능가하는 상황을 기쁘게 받아들이는 듯했다.

하지만 우리 모두가 이런 특수한 분야의 승부에 관심을 가져야 할까? AI 기술은 인간 지능을 모방하고 궁극적으로는 대체하는 것을 목표로 설계되고 있지만, 그 기술을 개발하는 사람들이 생각하는 인간 지능의 이상향이 수학 경시대회 우승이나 전설적인 프로그래머와 대등하게 경쟁하는 것처럼 수학적, 분석적 지능에 편향되어 있다면 문제가 아닐까?

첸 최고연구책임자는 “사실 그 말이 맞다고 생각한다”며 “우리는 사실 우리를 더 빠르게 발전시켜 줄 모델을 만들고 싶다는 이기적인 바람을 품고 있다”고 설명했다.

첸 최고연구책임자와 파초츠키 최고과학자 같은 연구자들은 수학과 코딩이 일반적인 지능을 위한 토대이며, 이 능력을 발전시키면 우리가 생각하지 못한 방식으로 광범위한 문제를 해결할 수 있을 것이라고 주장한다. 파초츠키 최고과학자는 “지금은 프로그래밍과 수학 이야기를 하고 있지만, 결국 핵심은 창의성”이라며 “새로운 아이디어를 생각해 내고 전혀 다른 영역의 개념들을 연결하는 능력이 중요하다”고 설명했다.

이어서 그는 “위에서 언급한 두 대회를 생각해 보면, 두 대회 모두 매우 어렵고 틀을 벗어난 창의적인 사고가 필요한 문제가 있었다”면서 “사이호는 코딩 대회에서 주어진 시간의 절반을 ‘생각하는 데’ 썼고, 결국 우리 모델이 생각해 내지 못한 완전히 새로운 방식으로 해결책을 찾아냈다”고 말했다.

파초츠키 최고과학자는 “우리는 그런 창의성을 바란다”고 강조했다. 그는 “어떻게 하면 모델이 새로운 아이디어를 발견하고 실제로 우리 지식을 확장할 수 있을까? 나는 지금도 제한적이기는 하지만 AI 모델에 그런 능력이 어느 정도 있다고 생각한다”면서 “이 기술에는 과학적 진보를 가속화할 잠재력이 있다”고 덧붙였다.

필자는 다시 수학과 코딩 중심의 관점이 문제가 될 수 있는지 질문하면서 우리가 개발하고자 하는 도구가 과학을 위한 도구라면 괜찮을 것 같다고 덧붙였다. 꼭 정치인을 대신하거나 사람들과 잘 어울리는 LLM을 개발할 필요는 없는 것 같다고도 말했다.

필자의 말을 들은 첸 최고연구책임자는 얼굴을 찌푸리며 천장을 올려다보았다. 그리고 “왜 그렇게 생각하느냐”고 답했다.

무엇이 아직 부족한가?

오픈AI는 아직 AGI에 대해 언급하는 것이 괴짜처럼 들리던 시절에 AGI를 구축하겠다는 목표를 내세우며 설립된 기업이다. 지금도 오픈AI는 AGI에 대해 열성적이며, AGI를 수십억 달러가 투자되는 주요 기술 담론으로 끌어올리는 데 누구보다 큰 역할을 했다. 하지만 오픈AI는 여전히 AGI에 도달하지 못했다. 필자는 첸 최고연구책임자와 파초츠키 최고과학자에게 무엇이 아직 부족하다고 생각하는지 물었다.

파초츠키 최고과학자는 “미래를 상상하는 가장 좋은 방법은 현재 우리가 알고 있는 기술을 깊이 연구하는 것이라고 생각한다”고 말했다. 그는 “오픈AI는 처음부터 딥러닝을 굉장히 신비롭고 강력하며 잠재력이 큰 기술로 여겨왔고 그 한계를 이해하려 하고 있다”며 “이 기술로 할 수 있는 일과 할 수 없는 일을 파악하고자 한다”고 설명했다.

첸 최고연구책임자는 현재 가장 최신 기술로 추론 모델을 언급했다. 이 모델들은 문제를 더 처리하기 쉬운 단계로 세분화하는 방법을 사용하지만, 물론 한계도 있다. 첸 최고연구책임자는 “이 모델들은 수많은 정보를 알고 있지만 그 지식을 서로 연결하지 못한다”며 “왜 인간처럼 하지 못하는지 알 수 없다”고 말했다.

오픈AI는 이 질문에 답하기 위해 전력을 다하고 있다.

파초츠키 최고과학자는 “우리는 추론 모델 기술의 초기 단계에 있다고 생각한다”며 “모델이 장기적인 탐색을 통해 진짜 새로운 아이디어를 내놓을 수 있도록 학습시키는 방법에 대해 고민하고 있다”고 설명했다.

첸 최고연구책임자는 여기서 더 나아가서 “나는 추론 기술이 완성되지 않았다고 생각한다”고 강조했다. 그는 “우리는 아직 추론 기술을 해결하지 못했고, 인간이 아는 것들을 모델이 대략적으로라도 흉내 내려면 정말 방대한 텍스트를 읽어야 한다”고 덧붙였다.

오픈AI는 모델을 학습시킬 때 사용하는 데이터의 종류나 크기, 구조에 대해 자세한 내용을 공개하지 않는다. 단지 모든 개발 단계의 효율성을 높이기 위해 집중하고 있다고만 밝히고 있다.

이러한 노력을 기울이면서 오픈AI는 컴퓨팅 자원을 더 많이 투입할수록 모델 성능이 향상된다는 이른바 ‘스케일링 법칙(scaling law)’이 아직 유효하다는 확신을 얻고 있다.

첸 최고연구책임자는 “스케일링 법칙이 한계에 도달했다는 증거는 없다고 생각한다”고 밝혔다. 그는 “항상 발전이 한계에 다다른 것처럼 느껴지는 순간이 있었다”며 “그건 모델의 구조 때문일 수도 있고 데이터 때문일 수도 있지만, 중요한 건 그런 한계를 돌파할 연구를 해내는 것”이라고 강조했다.

AI의 발전에 대한 두 사람의 신념은 확고했다. 필자는 지난 5월 <네이처(Nature)>와의 인터뷰에서 파초츠키 최고과학자가 AGI에 대해 했던 발언을 언급했다. 당시 파초츠키 최고과학자는 “2017년 오픈AI에 합류했을 때 나는 회사에서 가장 회의적인 사람 중 한 명이었다”고 말한 바 있다.

파초츠키 최고과학자는 당시를 회상하며 “내가 AGI라는 개념 자체에 대해 회의적이었던 건지는 잘 모르겠다”고 말했다. 그러고는 “하지만, 아마도”라고 말한 뒤 말을 멈추고 테이블 위에 올려 놓은 자신의 손을 내려다봤다. 잠시 후 그는 “오픈AI에 들어왔을 때 우리가 지금 도달한 지점까지 가는 데 훨씬 더 오래 걸릴 줄 알았다”고 말했다.

파초츠키 최고과학자는 “AI에는 많은 파급 효과가 있다”면서 “하지만 내가 가장 많이 생각하는 것은 ‘연구의 자동화’”라고 말했다.

그는 “인간의 역사를 보면 많은 부분이 기술의 발전이나 인간이 새로운 기술을 만드는 이야기이다. 따라서 컴퓨터가 스스로 새로운 기술을 개발할 수 있게 되는 시점이 매우 중요한 변곡점이 될 것이라고 생각한다. 우리는 이미 모델들이 과학자들에게 도움을 주는 모습을 목격하고 있다. 그러나 이 모델들이 스스로 연구 계획을 수립할 수 있게 된다면 세상은 지금과 확연히 달라질 것이다”라고 설명했다.

첸 최고연구책임자도 모델이 더 오랜 시간 동안 스스로 작동하는 능력을 갖추게 되는 것이 핵심이라고 생각한다. 첸 최고연구책임자는 “사람들마다 AGI에 대한 정의는 다르다고 생각한다”며 “하지만 모델이 막다른 길에 가로막히지 않고 어려운 문제를 꾸준히 해결해 나가는 데 사용할 수 있는 ‘자율적 시간’이라는 개념은 우리가 추구하고 있는 아주 중요한 요소 중 하나”라고 말했다.

이는 대담한 비전이며 현재 모델들의 수준을 한참 넘어선 목표이다. 그런데도 이 두 사람이 AGI를 마치 일상적인 일인 것처럼 설명하는 모습이 놀라웠다. 두 사람의 태도는 18개월 전 필자와 이야기를 나눴던 수츠케버 전 최고과학자와는 대조적이었다. 당시 수츠케버 전 최고과학자는 “AGI는 세상을 뒤흔들 엄청난 변화일 것”이라며 “AGI가 등장하면 그 이전과는 완전히 다른 세상이 될 것”이라고 말한 바 있다. 수츠케버 전 최고과학자는 자신이 개발하고 있는 기술의 중대한 의미를 깨닫고서 더 뛰어난 모델을 설계하는 작업에서 벗어나 곧 자신보다 더 똑똑해질 기술을 ‘어떻게 통제할 것인가’로 초점을 옮기게 되었다.

2년 전 수츠케버 전 최고과학자는 오픈AI의 얀 레이커(Jan Leike) 안전 연구원과 함께 ‘초정렬(슈퍼얼라인먼트)팀’을 구성했다. 이 팀의 목표는 오픈AI 자원 중 5분의 1을 쏟아부어, 가상의 ‘초지능’을 통제하는 방법을 연구하는 것이었다. 그러나 현재는 수츠케버 전 최고과학자와 레이커 연구원을 포함한 대부분의 팀원들이 오픈AI를 떠났고, 초정렬팀은 더 이상 존재하지 않는다.

레이커 연구원은 “초정렬팀이 받아야 할 지원을 받지 못했기 때문에 사임한다”고 밝혔다. 그는 X에 “인간보다 똑똑한 기계를 만드는 일은 본질적으로 위험한 일이다. 오픈AI는 인류 전체를 대표해 막대한 책임을 지고 있다. 그러나 지난 몇 년 동안 안전 문화와 절차는 주목받는 제품들에 밀려 제대로 지원받지 못했다”고 적었다. 오픈AI를 떠난 다른 연구자들도 이와 비슷한 메시지를 공유했다.

필자는 첸 최고연구책임자와 파초츠키 최고과학자에게 이러한 우려에 대해 어떻게 생각하는지 물었다. 첸 최고연구책임자는 “그런 결정들은 대부분 매우 개인적인 선택”이라며 더 설명을 하려다가 잠시 말을 멈췄다.

그리고 다시 말을 시작했다. 그는 “어떤 연구자들은 자신의 연구 분야가 어떤 방향으로 향할 것이고 그 안에서 본인의 연구가 전개되어 결실을 맺을 것이라는 믿음이 있을 수 있다”며 “하지만 회사가 그 기대에 부응하지 않을 수도 있다”고 설명했다.

그는 다시 한번 “그건 개인적인 결정”이라고 말하며 “가끔은 자신의 연구 분야가 본인의 연구 방향과 점점 어긋나는 방향으로 향하기도 한다”고 덧붙였다.

그러나 첸 최고연구책임자와 파초츠키 최고과학자는 모두 ‘정렬(alignment, AI 시스템을 인간이 의도한 목표나 윤리적 가치에 부합하도록 조정하는 과정)’이 이제 특정 팀의 몫이 아니라 오픈AI의 핵심 업무 중 일부가 되었다고 강조했다. 파초츠키 최고과학자는 “모델들은 기대한 대로 작동하지 않으면 아예 작동하지 않는 것이나 다를 바 없다”고 말했다. 그리고 “지금 존재하는 모델들을 제대로 정렬하는 것조차 어려운 상황에서 가상의 초지능을 목표에 맞춰 정렬하는 데 집중할 여유는 거의 없다”고 덧붙였다.

파초츠키 최고과학자는 “2년 전 우리가 상상하던 위험들은 대부분 이론적인 것들이었다”며 “하지만 지금 실제 세상은 그때의 상상과 매우 다르고, 이제는 대부분의 정렬 문제가 매우 현실적인 과제가 되었다”고 설명했다.

그럼에도 불구하고 실험적인 기술은 그 어느 때보다도 빠르게 대중 시장의 제품으로 전환되고 있다. 이 과정에서 두 사람 사이에 의견 충돌이 생기는 일은 없을까?

파초츠키 최고과학자는 “나는 미래를 장기적으로 바라보며 기술이 향하는 방향에 대해 깊이 고민할 때가 많다”고 말했다. 그는 “하지만 사람들과 조직에 필요한 것들에 대한 현실적인 문제들은 첸 최고연구책임자가 담당한다”며 “따라서 의견 충돌이라기보다는 서로가 바라보는 회사의 목표와 과제가 다르다 보니 그 사이에서 자연스럽게 어떤 긴장감 같은 것이 드러날 수 있다”고 설명했다.

첸 최고연구책임자는 “아주 섬세한 균형이라고 생각한다”고 말을 덧붙였다.

The post [인터뷰] 오픈AI 연구의 미래를 이끌어 가고 있는 두 사람 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.