AI 소재 발견의 허상과 실상…실험실 데이터는 왜 현실의 벽에 부딪혔나

막대한 자금을 확보한 스타트업들은 AI를 활용해 실험과 재료 합성의 전 과정을 효율화하고 가속함으로써 정체돼 있던 신소재 발굴 분야에 변화를 가져올 수 있을 것으로 기대한다.

미국 매사추세츠주 케임브리지에 있는 라일라 사이언스(Lila Sciences) 실험실 한편에 놓인 전자레인지 크기의 장비는 최첨단 소재 실험실에서 흔히 볼 수 있는 다른 장비와 다를 게 없어 보인다. 진공 챔버 내부에서 이 장비는 다양한 원소가 배치된 팔레트에 에너지를 가해 입자를 기화시킨다. 이렇게 생성된 입자들은 챔버 안을 비행한 뒤 ‘스퍼터링(sputtering)’이라 불리는 기술을 통해 기판 위에 얇은 막, 즉 박막 형태로 증착(蒸着)된다. 이 장비의 가장 큰 특징은 실험을 인공지능(AI)이 주도한다는 점이다. 방대한 과학 문헌과 데이터를 학습한 AI 에이전트가 재료 배합비를 직접 설계하고, 원소 조합을 바꿔가며 실험을 수행한다.

이후 사람이 여러 잠재적 촉매가 담긴 샘플들을 실험실의 다른 구역으로 옮겨 시험을 진행한다. 그 다음 또 다른 AI 에이전트는 시험 데이터를 스캔하고 해석하며 이를 바탕으로 소재 성능을 최적화하기 위한 다음 단계의 실험을 제안한다.

현재는 사람 과학자가 실험 과정을 면밀히 관찰하며 AI의 제안과 시험 결과를 바탕으로 다음 단계를 승인한다. 그러나 라일라 사이언스는 AI가 제어하는 이 장비가 신소재 발굴의 미래를 엿볼 수 있는 단서라고 확신한다. 이들은 자율 실험실이 독창적이고 유용한 화합물을 훨씬 더 저렴하고 빠르게 찾아낼 수 있는 미래를 꿈꾼다.

수억 달러 규모의 신규 투자를 유치한 라일라 사이언스는 최근 유니콘에 등극한 AI 스타트업 기업 중 하나다. 이 회사는 AI가 운영하는 자율 실험실을 통해 과학적 발견을 이루겠다는 원대한 비전을 내세우며 스스로 ‘과학적 초지능(scientific super intelligence)’이라 부르는 수준에 도달하는 것을 궁극적 목표로 삼는다. 하지만 필자가 최근 이곳을 찾은 목적은 그중에서도 신소재 발굴에 대해 구체적으로 알아보기 위해서였다.

업계는 인류가 당면한 문제들을 해결할 수 있는 더 나은 소재 개발에 목말라 있다. 더 강력한 배터리를 구현하려면 성능이 향상된 전극과 부품이 필요하고, 대기 중 이산화탄소를 보다 저렴하게 제거할 수 있는 화합물도 개발되어야 한다. 또한 그린 수소를 비롯한 청정 연료와 화학물질을 생산하기 위해서는 더 우수한 촉매가 필수적이다. 나아가 양자 컴퓨팅과 핵융합 발전, AI 하드웨어에 이르기까지 기술 전반에서 새로운 도약을 이루기 위해서는 더 높은 작동 온도의 초전도체나 성능이 개선된 자석, 다양한 종류의 반도체처럼 완전히 새로운 소재가 필요할 가능성이 크다.

하지만 소재 과학은 지난 수십 년 동안 눈에 띄는 상업적 성과를 많이 내지 못했다. 이 분야는 높은 복잡성과 낮은 성공률 탓에 신약 개발이나 생명과학 연구처럼 더 화려하고 수익성이 높은 분야에 가려져 어느새 혁신의 변두리로 밀려났다.

신소재 발굴에 AI를 활용하자는 발상 자체는 전혀 새로운 것이 아니다. 그러나 2020년 딥마인드가 알파폴드2 모델을 통해 단백질의 3차원 구조를 정확하게 예측할 수 있음을 보여주면서 이 분야는 커다란 전환점을 맞았다. 이어 2022년에는 챗GPT가 폭넓은 인기를 얻으며 이러한 흐름에 다시 한번 불을 지폈다. 딥러닝을 활용한 유사한 AI 모델이 과학 연구에도 도움을 줄 수 있으리라는 기대가 기술 업계 전반으로 확산됐다. 새롭게 등장한 생성형 AI 기능을 활용해 방대한 화학적 세계를 탐색하고 원자 구조를 시뮬레이션해 놀라운 특성을 지닌 새로운 물질을 찾아낼 수 있지 않겠느냐는 질문이 본격적으로 제기되기 시작한 것이다.

“시뮬레이션은 문제의 틀을 규정하고 실험실에서 시험해 볼 가치가 있는 대상을 가려내는 데 매우 강력한 도구다. 하지만 현실 세계의 문제 가운데 시뮬레이션만으로 해결할 수 있는 것은 하나도 없다”

AI 모델이 ‘수백만 개의 신소재’를 발견했다는 주장이 잇따라 등장했고, 이에 힘입어 막대한 투자 자금이 유입되며 수많은 스타트업이 설립되기 시작했다. 그러나 아직까지 모두가 기대했던 ‘유레카’의 순간은 없었다. 챗GPT에 비견할 기술적 혁신도, 획기적인 신소재는 물론 성능이 조금이라도 개선된 소재조차 눈에 띄지 않는다.

유용한 신소재를 찾아 나선 스타트업들은 공통된 한계에 직면한다. 신소재 발굴에서 가장 많은 시간과 비용이 드는 단계는 새로운 구조를 상상하는 일이 아니라, 그것을 현실에서 실제로 만들어내는 과정이다. 어떤 소재를 합성해 보기 전까지는 그것이 과연 제조 가능하고 안정적인지 알 수 없으며 대부분의 특성은 실험실에서 직접 시험해 보기 전까지 베일에 싸여 있다.

존 그레고어(John Gregoire) 라일라 사이언스 최고자율과학책임자는 “시뮬레이션은 문제의 틀을 규정하고 실험실에서 시험해 볼 가치가 있는 대상을 가려내는 데 매우 강력한 도구지만 현실 세계의 문제 가운데 시뮬레이션만으로 해결할 수 있는 것은 하나도 없다”고 말했다.

라일라 사이언스와 같은 스타트업들은 AI를 활용해 실험 방식을 근본적으로 혁신하겠다는 전략에 베팅하고, 에이전트가 실험을 계획하고 수행하며 결과를 해석해 새로운 소재를 합성하는 실험실을 구축하고 있다. 실험실 자동화 자체는 이미 상용화된 기술이다. 하지만 이들은 한 단계 더 나아가 AI 에이전트가 자율 실험실을 직접 지휘하며 실험을 설계하고 샘플을 이리저리 옮기는 로봇까지 제어하는 형태를 구현하고자 한다. 무엇보다 중요한 목표는 이러한 실험에서 생성되는 방대한 데이터를 AI로 수집하고 분석해 더 나은 소재에 대한 단서를 찾아내는 것이다.

이러한 시도가 성공한다면 신소재 발굴에 걸리는 시간을 수십 년에서 몇 년, 혹은 그보다 더 짧게 줄이고, 새로운 소재를 찾아내는 것은 물론 기존 소재의 성능을 최적화하는 데도 기여할 수 있을 것이다. 하지만 이는 분명한 도박이기도 하다. AI가 이미 많은 실험실 작업과 반복적인 업무를 대신하고는 있지만 스스로 유용한 신소재를 찾아내는 일은 전혀 다른 차원의 문제이기 때문이다.

침체기에 빠진 신소재 발굴

필자는 약 40년 가까이 신소재 발굴을 취재해 왔지만, 솔직히 말해 리튬이온 배터리처럼 굵직한 상업적 성과는 손에 꼽을 정도다. 물론 그동안 페로브스카이트(perovskite) 태양전지, 그래핀(graphene) 트랜지스터, MOF처럼 기사로 다룰 만한 과학적 진전은 많았다. 특히 MOF는 독특한 분자 구조 덕분에 최근 발명자들이 노벨상을 받기도 했다. 하지만 MOF를 포함한 이런 성과들 가운데 상당수는 실험실을 크게 벗어나지 못했다. 양자점처럼 일부는 상업적 활용에 성공했지만, 전반적으로 보면 과거 수십 년 동안 등장했던 삶을 근본적으로 바꾼 발명품에 필적할 만한 성과는 찾아보기 어려웠다.

이유는 분명하다. 새로운 소재 하나를 만들고 시험하며 최적화하고 생산에 이르기까지는 보통 20년 이상이 걸리고, 수억 달러의 비용이 소요되기 때문이다. 수익률이 낮은 범용 소재 시장에 그만한 시간과 자금을 투입하려 하지 않는 산업계의 현실도 무시할 수 없다. 어쩌면 새로운 소재를 만드는 데 필요한 아이디어 자체가 고갈된 것일지도 모른다. 

이런 배경 속에서 개발 속도를 높이는 동시에 새로운 아이디어를 찾아내야 한다는 필요성은 연구자들을 AI로 이끌었다. 과학자들은 수십 년 동안 컴퓨터를 이용해 원자의 배치를 계산하고, 안정적이며 예측 가능한 특성을 지닌 잠재적 소재를 설계해 왔다. 이 접근 방식은 어느 정도 성과를 거두었다. AI의 발전은 이러한 계산 기반 모델링을 훨씬 빠르게 만들었고, 엄청난 수의 잠재적 구조를 단시간에 탐색할 수 있다는 기대를 낳았다. 이에 따라 구글 딥마인드, 메타, 마이크로소프트도 신소재 설계에 AI 도구를 적용하는 작업에 착수했다.

하지만 계산을 통해 새로운 소재를 모델링할 때 늘 연구자들을 괴롭혀온 문제는 여전히 해결되지 않았다. 결정(結晶)과 같은 대다수의 소재에서는 원자 구조를 계산하는 것만으로는 유용한 특성을 예측하기 어려운 경우가 많다.

이러한 특성을 밝혀내고 최적화하려면 실제로 물질을 만들어 봐야 한다. 라파엘 고메스-봄바렐리(Rafael Gómez-Bombarelli) 라일라 공동 창업자 겸 MIT 소재과학 교수는 “구조는 문제를 이해하는 데 도움이 되지만 현실의 소재 문제를 해결하는 데 있어 필요조건도, 충분조건도 아니다”라고 말했다.

가상 세계와 물리적 세계 사이의 간극을 가장 극명하게 드러낸 사례로는 2023년 말 딥마인드의 발표를 들 수 있다. 당시 딥마인드는 딥러닝을 활용해 수백만 개의 신소재를 발견했으며, 이 가운데 38만 개의 결정을 “매우 안정적인 상태에 있어 실험적 합성이 기대되는 유망한 후보”라고 밝혔다. 기술적으로 설명하면, 원자 배열이 최소 에너지 상태에 놓여 있어 그대로 유지되려는 성향을 보인다는 뜻이다. 딥마인드 연구진은 이를 두고 “인류가 알고 있던 안정적인 소재의 수를 10배 이상 늘렸다”고 주장했다.

AI 연구자들에게 이 소식은 모두가 기다려 온 변화의 신호처럼 보였다. 딥마인드의 연구는 방대한 규모의 신소재 후보군뿐 아니라 수많은 구조를 예측할 수 있는 강력한 계산 기법까지 새롭게 제시했기 때문이다.

그러나 일부 소재 과학자들의 반응은 전혀 달랐다. 캘리포니아 대학교 산타바버라 캠퍼스의 연구진은 면밀한 검토 끝에 “참신성, 신뢰성, 그리고 유용성이라는 세 가지 조건을 모두 충족하는 화합물에 대한 증거를 거의 찾아볼 수 없었다”고 밝혔다. 실제로 이들은 “살펴본 후보들 가운데 완전히 새로운 화합물은 하나도 발견하지 못했으며, 일부는 이미 알려진 물질의 ‘사소한’ 변형에 불과했다”고 보고했다. 연구진은 특히 잠재적 화합물을 ‘소재’라고 표현한 부분에 강한 불만을 드러냈다. 이들은 논문에서 “이 연구는 새로운 소재를 보고한 것이 아니라 제안된 화합물의 목록만을 제시하고 있다. 우리가 판단하기에 화합물은 일정한 기능을 보여 잠재적 활용 가능성이 있을 때 비로소 소재라고 부를 수 있다”고 정중하게 지적했다.

제안된 결정들 가운데 일부는 현실 세계의 조건에도 부합하지 않았다. 딥마인드 연구진은 수많은 구조를 계산하기 위해 절대영도에서 시뮬레이션을 수행했는데, 이 조건에서는 원자들이 가지런히 정렬된 상태를 유지하며 약간의 진동만 보일 뿐 거의 이동하지 않는다. 하지만 실험실이나 현실 세계의 더 높은 온도에서는 원자들이 훨씬 더 복잡하게 움직이며, 많은 경우 더 무질서한 결정 구조를 형성한다. 딥마인드가 신소재로 예측한 물질 중 상당수는 이미 알려진 무질서한 구조의 물질을 이상적으로 정렬한 것에 불과해 보였다.

더 넓은 맥락에서 보면 딥마인드의 논문은 적어도 현재로서는 가상 시뮬레이션으로 물리적 현실을 정확히 재현하는 일이 얼마나 어려운지를 다시 한번 일깨워 주는 사례였다. 연구자들은 계산 능력의 한계로 인해 비교적 적은 수의 원자만을 대상으로 계산을 수행하는 경우가 많다. 하지만 대다수의 핵심 물성은 원자 세계보다 훨씬 큰 규모가 큰 미세 구조에 의해 결정된다. 또한 고온 초전도 현상이나 수많은 산업 공정에서 핵심 역할을 하는 촉매 작용과 같은 일부 현상은 지나치게 복잡하거나 아직 충분히 이해되지 않아 원자 단위 시뮬레이션만으로 설명하기에는 분명한 한계가 있다.

공통의 언어

하지만 시뮬레이션과 실험 사이의 간극이 서서히 좁혀지고 있음을 보여주는 징후들이 나타나고 있다. 일례로 딥마인드는 2023년 논문 발표 이후 전 세계의 실험실 연구자들과 협력해 AI가 식별한 화합물을 실제로 합성하는 작업을 진행해 왔으며, 그 과정에서 일부 의미 있는 성과를 거두었다고 밝혔다. 한편 이 분야에 뛰어든 스타트업 중 다수는 하나의 조직 안에서 계산 역량과 실험 전문성을 결합하기 위해 노력하고 있다.

그중 하나가 피리어딕 랩스(Periodic Labs)다. 이 회사는 2023년 딥마인드 연구로 큰 주목을 받았던 과학팀을 이끈 물리학자 에킨 도우쉬 추북(Ekin Dogus Cubuk)과 오픈AI에서 챗GPT 공동 개발자로 참여한 리엄 페더스(Liam Fedus)가 공동 설립했다. 두 창업자 모두 계산 모델링과 AI 소프트웨어 분야에 뿌리를 두고 있지만 회사의 신소재 발굴 전략은 자동화된 실험실에서 수행되는 실제 합성 실험에 상당 부분을 초점을 두고 있다.

피리어딕 랩스가 그리는 비전은 과학 문헌을 바탕으로 훈련되고 동시에 현재 진행 중인 실험을 통해서도 실시간으로 학습할 수 있는 대형언어모델(LLM)을 활용해 서로 다른 전문 분야를 하나로 연결하는 것이다. LLM은 특정 화합물을 만들기 위한 조성 방법과 조건을 제안할 수 있고, 시험 데이터를 해석해 내부 화학자와 물리학자에게 추가적인 의견을 제공할 수도 있다. 이 전략에서 시뮬레이션은 단순히 후보 소재를 제시하는 데 그치지 않고, 실험 결과를 설명하고 구조적 개선 방향을 제안하는 도구로도 활용된다.

피리어딕 랩스 역시 라일라 사이언스와 마찬가지로, 단순히 새로운 소재를 설계하고 만들어내는 데서 한 걸음 더 나아가려 한다. 이 회사의 목표는 물리과학 분야에 능숙한 AI 과학자를 개발하는 것이다. 추북은 “LLM은 이미 화학이나 물리 관련 정보를 체계적으로 정리하는 데 상당히 뛰어난 모습을 보이고 있다”며 “이제는 시뮬레이션 수행, 실험 진행, 이론 모델링처럼 실제 과학 연구를 수행하는 방법을 가르쳐 이를 한층 더 발전시키려 한다”고 말했다.

이러한 접근은 라일라 사이언스의 전략처럼 소재와 그 합성 과정을 지배하는 과학적 원리를 보다 정확히 이해하면 더욱 다양한 신소재를 찾아낼 실마리를 얻을 수 있을 것이라는 기대에 기반을 두고 있다. 피리어딕 랩스가 주목하는 대상 가운데 하나는 새로운 유형의 자석처럼 양자 효과에 의해 성질이 결정되는 소재들이다. 궁극적인 목표는 상온 초전도체로, 이는 컴퓨팅과 전력 기술의 판도를 바꿀 잠재력을 지닌 물질이지만 수십 년에 걸친 연구에도 불구하고 여전히 미완의 과제로 남아 있다.

초전도체는 전기가 흐를 때 저항이 전혀 발생하지 않아 열 손실이 없는 물질이다. 지금까지 개발된 가장 뛰어난 성능의 초전도체들조차 비교적 낮은 온도에서만 초전도 상태를 보이며, 이를 유지하려면 상당한 냉각 작업이 필요하다. 만약 상온이나 그에 가까운 조건에서 작동하는 초전도체를 구현할 수 있다면, 훨씬 효율적인 전력망은 물론 새로운 형태의 양자 컴퓨터, 그리고 보다 실용적인 고속 자기부상 열차도 개발될 수 있을 것이다.

아직까지 상온 초전도체를 구현하지 못한 것은 지난 수십 년간 소재 과학의 역사에서 가장 안타까운 사건 중 하나로 평가된다. 필자는 1987년 비교적 높은 온도인 93K(약 섭씨 -180도)에서 초전도 상태를 보이는 새로운 세라믹 소재를 둘러싼 기대가 최고조에 달했던 시기에 로널드 레이건 전 대통령의 연설 현장에 있었다. 그는 이 기술이 “우리를 새로운 시대로 이끌 것”이라며 강력한 기대감을 드러냈다. 워싱턴 힐튼 호텔의 대형 연회장을 가득 메운 과학자들과 기업인들 사이에는 레이건 전 대통령이 언급한 것처럼 ‘해외 석유 의존도 감소, 더 깨끗한 환경, 국가 경제 발전 등 다양한 이점’이 실현될 것이라는 낙관론이 퍼져 있었다. 돌이켜보면, 당시는 소재 분야의 기술 혁신이 가져올 경제적·기술적 효과에 기대를 걸었던 마지막 순간 중 하나였을지도 모른다.

그러나 예고되었던 새 시대는 끝내 오지 않았다. 과학자들은 아직까지 정상적인 조건에서 상온 혹은 그에 가까운 온도에서도 초전도 현상을 보이는 물질을 발견하지 못했다. 현재 가장 성능이 뛰어난 초전도체들조차 쉽게 부서지는 성질로 인해 전선으로 사용하기에는 부적합한 경우가 많다.

더 높은 온도에서 작동하는 초전도체를 찾기 어려운 이유 가운데 하나는 비교적 높은 온도에서 나타나는 초전도 현상을 설명하거나 원자의 배열만으로 이를 예측할 수 있는 이론이 존재하지 않기 때문이다. 결국 흥미로운 후보 물질을 실제로 합성하고 시험한 후 그 데이터를 분석해 이 수수께끼 같은 현상의 실마리를 찾아내는 일은 실험실 과학자들의 몫으로 남아 있다. 추북은 “이는 피리어딕 랩스가 가장 우선적으로 집중하고 있는 작업 중 하나”라고 말했다.

AI가 실험을 이끄는 시대

연구자가 새로운 결정 구조를 처음으로 합성해 내는 데에는 1년 이상이 걸릴 수 있다. 그 뒤에도 통상적으로 수년에 걸쳐 물성을 검증하고 상용화를 위한 대량 생산 방안을 모색하는 작업이 이어진다.

라일라 사이언스와 피리어딕 랩스 같은 스타트업들은 AI가 이끄는 실험이 이러한 개발 기간을 크게 단축할 수 있으리라는 가능성에 큰 기대를 걸고 있다. 이러한 낙관론에는 이미 많은 실험실이 샘플 준비부터 시험 대상 이동에 이르기까지 전 과정에 자동화 기술을 도입해 왔다는 점도 영향을 미쳤다. 연구자들은 로봇 팔, 소프트웨어, 자동화된 현미경과 기타 분석 장비, 실험 장비를 조작하는 기계식 도구를 일상적으로 활용하고 있다.

이러한 자동화는 특히 성분을 다양하게 조합한 샘플들을 대량으로 빠르게 합성하고 선별하는 고속 합성을 가능하게 하며, 이를 통해 실험 속도를 크게 끌어올릴 수 있다.

AI를 활용해 자동화 합성을 기획하고 운영하면 연구를 훨씬 더 체계적이고 효율적으로 진행할 수 있다. 인간이 도저히 감당할 수 없는 규모의 데이터를 수집하고 분석할 수 있는 AI 에이전트는 실시간 정보를 바탕으로 성분과 합성 조건을 조정하며 최적의 물성을 가진 샘플을 찾아낼 때까지 실험을 이어갈 수 있다. 이러한 AI 중심의 실험실은 개인 연구자보다 훨씬 많은 실험을 수행할 뿐 아니라 기존의 고속 합성 시스템보다도 한층 더 지능적인 연구를 가능하게 할 수 있다.

그러나 이른바 소재 분야의 자율 운영 실험실은 아직 개발 단계에 머물러 있다.

---

커스프AI(CuspAI) 본사: 영국 케임브리지 설립연도: 2024년 특징: 네덜란드 출신 컴퓨터 과학자 막스 벨링(Max Welling)이 공동 설립했으며, AI 대부로 불리는 제프리 힌턴(Geoffrey Hinton), AI 과학자 얀 르쿤(Yann LeCun), 저명한 신소재 과학자 크리스틴 퍼슨(Kristin Persson) 등 화려한 자문진을 확보하고 있다. 전략: 사용자가 원하는 특정 물성을 바탕으로 신소재를 생성하는 AI 모델을 구축했다. 또한 소재의 실제 합성 가능성부터 대량 생산 시 예상되는 특성까지 평가하는 일련의 AI 프로그램도 개발했다. 자체 실험실을 운영하기보다는 소재를 제조할 기업들과 협력하는 방식을 택하고 있으며, 현대자동차, 메타, 핀란드 화학 기업 케미라(Kemira)와 파트너십을 맺고 있다. 자금 조달: 2025년 9월 1억 달러(약 1,450억 원) 유치

라일라 사이언스(Lila Sciences) 본사: 미국 매사추세츠주 케임브리지 설립연도: 2023년 특징: AI와 신소재 과학 전반에 걸쳐 다양한 전문가들을 영입했다. 최근 대규모 실험실 공간을 임차해 AI가 주도하는 실험 체계를 본격적으로 구축하고 있으며 광범위한 데이터를 축적해 과학적 초지능을 달성하고자 한다. 전략: 초기 단계에서 기존 신소재 및 화학 기업들과 협력해 AI 관련 전문 지식과 실험실 자동화 기술을 제공함으로써 연구 활동을 보완하고 있다. 초기 연구 분야로 친환경 수소 촉매, 코팅 소재, 그리고 대기 중 이산화탄소 포집에 활용되는 흡착제에 집중하고 있다. 자금 조달: 2025년 10월 3억 5,000만 달러(약 5,000억 원) 유치

피리어딕 랩스(Peroidic Labs) 본사: 미국 샌프란시스코 설립연도: 2025년 특징: 챗GPT 공동 개발자와 딥마인드의 신소재 발굴 모델 지노메(GNoME)의 수석 과학자가 공동 설립에 참여했다. 마이크로소프트의 신소재 설계 AI 도구 매터젠(MatterGen) 개발자와 MIT, 콜로라도 광산 대학교 출신 화학자 및 물리학자들도 팀에 합류했다. LLM부터 원자 시뮬레이션, 재료과학 전반에 이르기까지 폭넓은 전문성을 갖추고 있다. 전략: LLM이 실험을 지휘하는 ‘AI 과학자와 이를 기반으로 한 자율 실험실’ 구축을 목표로 한다. 고온 초전도체를 발견하는 것이 주요 목표 중 하나다. 단기적으로는 기존 신소재 및 화학 기업들과 협력하고, 장기적으로는 자체 개발한 소재의 상용화를 추진할 계획이다. 자금 조달: 2025년 9월 3억 달러(약 4,300억 원) 유치

래디컬 AI(Radical AI) 본사: 미국 뉴욕 설립연도: 2024년 특징: 배터리 연구 분야의 세계적 권위자이자 로렌스 버클리 국립연구소(LBNL)의 자동화 실험실 A-랩(A-Lab) 책임연구자인 거브란트 시더(Gerbrand Ceder)가 최고과학책임자로 참여하고 있다. 시더는 여러 AI 에이전트가 합성 계획 수립부터 실행, 제조 후보 물질 평가를 위한 실험 설계까지 전담하는 자율 실험실 구축을 이끌 예정이다. 전략: 신소재를 발굴하고, 궁극적으로는 이를 제조할 시설까지 구축하는 것이 목표다. 초기 연구 대상은 수십 년 전에 발견됐지만 아직 널리 상용화되지 않은 고엔트로피 합금이다. 여러 원소를 혼합해 만든 이 초고강도 금속은 터빈 엔진이나 핵융합로에도 활용될 수 있을 것으로 기대된다. 자금 조달: 2025년 7월 5,500만 달러(약 800억 원) 유치

대다수의 소재는 고체 상태 합성을 필요로 하는데, 이는 신약 개발에서 흔히 사용되는 액체 취급 공정에 비해 자동화하기가 훨씬 까다롭다. 예컨대 촉매를 만들기 위해서는 여러 무기 성분의 분말을 정확한 비율로 준비해 혼합해야 하고, 원하는 구조를 얻기 위해 합성을 수행할 적절한 온도와 압력 등 처리 조건도 결정해야 한다. 심지어 최종적으로 어떤 물질이 만들어졌는지를 판별하는 일조차 쉽지 않은 경우가 많다.

2023년 로렌스 버클리 국립연구소의 A-랩은 세계 최초로 무기 분말을 출발 물질로 사용하는 완전 자동화 실험실을 구현했다고 발표했다. 이후 연구진은 이 자율 실험실이 로봇과 AI를 활용해 딥마인드 데이터베이스에서 예측한 물질을 포함해 41종의 신소재를 합성하고 시험했다고 보고했다. 일부 비평가들은 소재의 참신성에 의문을 제기하며 자동화된 재료 분석이 일반적인 실험 기준에 미치지 못한다고 지적했다. 이에 대해 버클리 연구진은 해당 연구가 자율 시스템의 잠재력을 보여주기 위한 시연에 가까웠다고 반박했다.

A-랩을 이끈 거브란트 시더 연구 책임자는 “현재 구현된 모습과 우리가 기대하는 모습 사이에는 아직 괴리가 있다. 이를 메우기 위해서는 훨씬 더 많은 도구를 개발해야 한다”고 말했다.

AI 에이전트는 이미 실험 지침을 작성하고 일부 시험 데이터를 해석하는 등 다양한 실험실 업무를 능숙하게 수행하고 있다. 때로는 현미경 이미지에서 사람의 눈으로는 알아차리기 어려운 패턴을 찾아내기도 한다. 그러나 시더는 이 기술이 머지않아 “인간의 의사결정을 재현”하는 단계로 발전하기를 바란다. 진행 중인 실험의 결과를 분석해 다음에 어떤 작업을 수행할지에 대한 전략적 판단까지 내릴 수 있도록 하겠다는 것이다. 이를 위해 시더의 연구진은 합성 에이전트가 과학자들의 ‘분산된(diffused)’ 지식을 더 효과적으로 반영하도록 개선하고 있다. 이는 다양한 교육과 경험을 통해 축적된 지식을 의미한다. 시더는 “나는 사람들이 각자의 전문성을 바탕으로 에이전트를 만들고, 이와 별개로 이러한 에이전트들을 연결하는 일종의 상위 모델이 등장하는 세상을 상상한다”며 “이 상위 모델은 자신이 어떤 에이전트를 호출할 수 있는지, 각 에이전트가 무엇을 알고 어떤 전문성을 지니고 있는지를 이해해야 한다”고 설명했다.

AI 에이전트의 강점 가운데 하나는 방대한 과학 문헌을 빠르게 흡수하는 능력이다. 시더는 “고체 전지 분야만 해도 하루에 50편의 논문이 쏟아진다. 이는 내가 연구하는 수많은 분야 중 하나에 불과하다”고 말했다. 인간이 이 많은 정보를 적시에 파악하는 것은 불가능하다. 그는 “AI 혁명이란 우리가 축적해 온 모든 과학 데이터를 마침내 한데 모으는 과정”이라고 강조했다.

지난여름 시더는 신소재 발굴 분야의 AI 스타트업 래디컬 AI의 최고과학책임자로 합류했으며, 뉴욕시에 자율 운영 실험실을 구축하는 데 힘을 보태기 위해 캘리포니아 대학교 버클리 캠퍼스에서 안식년 휴직에 들어갔다. 회사의 발표 자료에는 시더의 비전을 구현하기 위해 설계된 다양한 AI 에이전트와 생성형 모델로 구성된 포트폴리오가 포함되어 있었다. 자세히 살펴보면 ‘오케스트레이터(orchestrator)’라 불리는 LLM도 확인할 수 있는데, 이는 래디컬 AI의 최고경영자 조지프 크라우스(Joseph Krause)가 ‘총괄 책임자’라고 표현한 시스템이다.

새로운 희망

지금까지 AI를 활용한 신소재 발굴을 둘러싼 기대와 더불어 막대한 자금이 유입되었지만 모두가 납득할 만한 확실한 성과는 아직 등장하지 않았다. 2016년 딥마인드의 알파고(AlphaGo)가 바둑 세계 챔피언을 꺾은 사례나 알파폴드가 생의학 분야에서 가장 어렵고 시간이 많이 드는 작업이었던 단백질 3차원 구조 예측을 정복한 사례에 비견할 만한 사건은 아직 찾아볼 수 없다.

신소재 발굴 분야는 여전히 결정적 순간을 기다리고 있다. 그 순간은 현재보다 뛰어난 방식으로 실용적인 소재의 설계나 합성 속도를 획기적으로 끌어올릴 수 있는 AI 에이전트의 개발을 통해 실현될지 모른다. 어쩌면 상온 초전도체처럼 완전히 새로운 물질이 발견되는 순간이 될 수도 있다.

하지만 그 가능성과 별개로, 스타트업들은 과학적 성과를 실용적인 소재로 바꿔야 하는 과제에 직면해 있다. 신소재를 상용화하는 작업은 위험 회피 성향이 강한 대기업 중심의 산업 구조 속에서 이루어져야 하기 때문에 특히 쉽지 않은 도전이다.

벤처 캐피털 SOSV의 파트너이자 기술 투자자인 수전 쇼퍼(Susan Schofer)는 이 분야에 대해 조심스러운 낙관론을 유지하고 있다. 다만 그녀는 2000년대 중반 자동화와 고속 선별 기술을 활용한 초기 신소재 발굴 스타트업에서 촉매 연구원으로 일했던 경험(해당 기업은 결국 살아남지 못했다)을 바탕으로 투자 대상을 검토할 때 해당 기술이 실제 상업적 성공으로 이어질 수 있음을 보여주는 증거를 확인하고 싶어한다.

특히 그녀는 AI 스타트업들이 이미 “새롭고, 기존과는 다른 무언가를 찾아냈으며, 이 지점에서 어떻게 다음 단계로 발전해 나갈지 알고 있다는 증거”를 제시하길 기대한다. 또한 그녀는 신소재의 가치를 제대로 반영한 사업 모델도 중요하다고 강조했다. 쇼퍼는 “이상적인 시나리오는 산업계가 원하는 명확한 사양을 파악하고, 그들이 어떤 문제를 안고 있는지 정확히 이해한 뒤, 이를 정의하고 해결책을 직접 만들어 나가는 것이다. 이를 바탕으로 실제로 판매할 수 있는 신소재를 개발하고, 충분히 규모를 키워 가능성을 입증해야 한다. 이후에는 어떤 형태로든 파트너와 협력해 제조를 진행하되, 소재 판매를 통해 수익을 창출하는 것이 바람직하다”고 설명했다.

쇼퍼는 과학을 새롭게 정의하겠다는 비전 자체는 이해한다고 밝히면서도 스타트업들에게 “그 목표에 어떻게 도달할 것인지를 보여줄 필요가 있다”고 조언했다. 이어 그녀는 “이제는 첫걸음을 보여줄 때”라고 덧붙였다.

초기 단계의 성과를 입증하는 일은 기존의 대형 소재 기업들이 AI 기술을 보다 적극적으로 받아들이도록 설득하는 데 핵심적인 역할을 할 수 있다. 소재 산업의 기업 연구자들은 그동안 여러 차례 실망을 경험했다. 컴퓨터 성능이 향상되면 마법처럼 신소재가 자동으로 설계해 줄 것이라는 오랜 약속, 2000년대 초 소재 R&D 실험실을 휩쓸었지만 실질적 성과는 거의 남기지 못한 조합 화학(대규모 유사 화합물 라이브러리를 구축한 후 다수의 화합물을 동시에 만들어내는 기술), 그리고 합성 생물학이 차세대 화학 물질과 소재를 만들어 줄 것이라는 기대는 모두 실현되지 못했다.

최근에는 AI을 둘러싼 또 다른 거품이 소재 과학계 전반을 뒤덮고 있다. 그중 일부는 2023년 “수백만 개의 신소재”를 발견했다는 딥마인드의 발표에서 비롯됐지만 결국 과장으로 드러났다. 여기에 더해 2024년 말 MIT 경제학과 학생 한 명이 이름을 밝히지 않은 대기업 연구개발 연구소가 AI를 활용해 다수의 신소재를 효율적으로 개발했다고 주장하는 논문을 공개하면서 그 기대는 더욱 증폭됐다. AI가 이미 산업을 혁신하고 있는 것처럼 보였던 것이다.

그러나 몇 달 후 MIT 경제학과는 해당 논문에 대해 “공적 논의에서 철회되어야 한다”는 결론을 내렸다. 논문 각주에 언급된 MIT 소속의 저명한 경제학자 두 명도 “데이터의 출처, 신뢰성, 타당성은 물론 연구 내용의 진실성에 대해서도 전혀 신뢰할 수 없다”고 밝혔다.

AI는 과장과 헛된 기대를 넘어 신소재 발굴을 진정으로 변화시킬 수 있을까. 가능성은 있다. 적어도 AI 기술 덕분에 재료 과학자들의 연구 방식이 이미 달라지고 있다는 점을 보여주는 증거는 충분하다. 비록 아직은 실험실에서 활용되는 유용한 도구에 그칠지라도 연구자들은 과학 문헌을 탐색하고 실험 데이터에서 패턴을 찾아내는 데 LLM을 점점 더 적극적으로 활용하고 있다.

하지만 이러한 AI 도구들이 실제 신소재 발굴로 이어지기까지는 아직 갈 길이 멀다. 특히 AI가 자율적으로 운영하는 실험실은 이제 막 첫걸음을 뗀 상태이다. 물질을 합성하고 시험하는 데에는 여전히 많은 시간과 막대한 비용이 필요하다. 필자가 라일라 사이언스를 방문했을 당시 실험실은 대부분 비어 있었고, 회사는 몇 마일 떨어진 더 넓은 공간으로 이전할 준비를 하고 있었다. 피리어딕 랩스 역시 이제 막 샌프란시스코에서 실험실 구축을 시작한 단계다. 현재는 AI 예측을 바탕으로 한 수동 합성을 진행하고 있으며, 로봇을 활용한 고속 합성 실험실은 도입되지 않았다. 래디컬 AI는 실험실이 거의 완전한 자율 운영 단계에 도달했다고 밝히면서도 조만간 더 큰 공간으로 이전할 계획을 세우고 있다.

이들 스타트업의 과학자 출신 창업자들과 이야기를 나누다 보면, 필자는 오랫동안 신약 개발과 유전체 의학의 그늘에 가려져 있던 소재 과학 분야에 다시금 활력이 돌고 있음을 느끼게 된다. 그 배경 가운데 하나는 자금이다. 시더는 “AI와 소재를 결합하려는 엄청난 열기를 느낄 수 있다”며 “소재 분야에 이렇게 많은 자금이 유입되는 것을 본 적이 없다”고 말했다.

하지만 소재 산업을 되살리는 일은 과학적 진보만으로 해결할 수 있는 문제는 아니다. 기업들이 연구개발을 전혀 다른 방식으로 수행하도록 설득하려는 노력이 동반되어야 한다.

그럼에도 이들 스타트업은 AI 산업 전반에 퍼져 있는 강한 자신감을 등에 업고 도전에 나서고 있다. 어쩌면 오랜 기간 위험한 도전을 피해 온 소재 산업에 필요한 것은 바로 그런 자신감일지 모른다.

The post AI 소재 발견의 허상과 실상…실험실 데이터는 왜 현실의 벽에 부딪혔나 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.