의사 대신 AI…새로운 진료 모델 만드는 美 스타트업

미국 의료 스타트업 아키도 랩스는 의료 보조원과 AI 시스템 ‘스코프AI’를 결합해 의사의 개입을 줄인 새로운 진료 방식을 도입했다. 이로써 의사들은 더 많은 환자를 진료하고 저소득층이나 노숙인은 더 신속한 치료를 받게 됐지만, 일각에서는 환자 안전에 대한 우려가 제기된다

상상해 보자. 몸이 안 좋아 병원에 전화를 걸어 진료 예약을 한다. 놀랍게도 다음 날 바로 예약이 잡힌다. 진료실에서는 서두르지 않고 무려 30분 동안 지금까지의 증상과 걱정, 그리고 기존 병력 등 세세한 부분까지 차분히 이야기할 수 있다. 상대방은 이를 주의 깊게 듣고, 적절한 추가 질문을 해준다. 진료를 마치고 나올 때는 진단과 치료 계획을 받으며, 평소에는 잘 경험할 수 없던, 드물게나마 자신의 건강 문제를 충분히 논의할 수 있었다는 만족감을 느낀다.

단, 함정이 있다. 이 과정에서 의사 혹은 면허가 있는 의료 전문가와는 단 한 마디의 대화도 하지 않았을 수 있다는 점이다.

이것이 바로 남부 캘리포니아의 일부 소규모 클리닉에서 새롭게 현실로 다가오고 있는 모습이다. 이 클리닉들은 의료 스타트업 아키도 랩스(Akido Labs)가 운영하며, 환자 중 일부는 저소득층을 위한 공공 의료보험인 메디케이드(Medicaid) 가입자다. 이들은 일반적으로 고액을 지불하는 일부 부유층만 이용할 수 있는 전문 진료를 단기간에 받을 수 있는 특권을 누린다.

AI와 의료 보조원이 만드는 새로운 진료 방식

하지만 가장 큰 차이가 있다면 아키도 환자들은 의사와 보내는 시간이 상대적으로 매우 짧거나 아예 없을 수도 있다는 점이다. 대신 이들은 일정 수준의 임상 교육을 받은 의료 보조원을 만난다. 의료 보조원은 환자들의 이야기를 들어주고 공감해준다. 진단을 내리고 치료 계획을 세우는 업무는 환자와 보조원 간의 대화를 기록하고 분석하는 LLM 기반 독점 시스템인 스코프AI(ScopeAI)가 담당하며, 이렇게 생성된 권고안은 이후 의사가 승인하거나 수정한다.

재러드 굿너(Jared Goodner) 아키도 최고기술책임자(CTO)는 “우리는 의사의 참여를 최소화하면서도 진료가 원활하게 진행될 수 있는 방안을 모색하는 데 주력하고 있다”고 말했다.

프라샨트 사만트(Prashant Samant) 아키도 최고경영자(CEO)에 따르면 이러한 방식은 의사가 대면 진료 때보다 4~5배 더 많은 환자를 진료할 수 있게 해준다. 의사들의 생산성 향상이 목표가 된 데에는 그럴 만한 이유가 있다. 갈수록 미국이 인구 고령화와 건강 악화가 심화되고 있으며, 적절한 의료 서비스를 이용하기 어려운 사람이 점점 늘고 있기 때문이다. 여기에 연방 메디케이드 예산의 15% 감축이 예정되어 있어 상황은 더욱 나빠질 전망이다.

그러나 전문가들은 의료 현장에서 수행되는 지적인 업무 대부분을 AI에 떠넘기는 방식으로는 의사 부족 문제를 해결할 수 있다고 보지 않는다. UC버클리의 컴퓨터 과학자 에마 피어슨(Emma Pierson)은 “AI의 도움을 받더라도 의료 보조원과 의사 간에는 전문성의 큰 격차가 있다”며 “그 간극을 무리하게 뛰어넘으려 할 경우 위험이 따를 수 있다”고 지적했다. 그는 이어 “사람들이 의료 전문 지식을 쉽게 접할 수 있게 해주는 AI의 잠재력은 매우 고무적이지만 이 방식이 목표를 달성하는 올바른 방법인지는 확신하기 어렵다”고 덧붙였다.

AI는 이미 의료 현장 곳곳에 활용되고 있다. 컴퓨터 비전은 건강검진 과정에서 암을 식별하고, 자동화 연구 시스템(automated research systems)은 의사들이 방대한 의학 문헌을 신속하게 검토할 수 있게 해준다. 대형언어모델(LLM) 기반 의료 기록 보조 장치는 진료 기록을 대신 작성해준다. 하지만 이러한 시스템은 어디까지나 일상적인 진료 과정을 수행하는 데 보조적 역할을 하도록 설계된 것들이다.

굿너는 스코프AI의 차별점이 진료에 필요한 인지 과제를 독립적으로 수행할 수 있다는 데 있다고 설명했다. 환자의 병력을 청취하고 잠재적 진단 목록을 도출한 뒤, 가장 가능성이 높은 진단을 특정하며 적절한 후속 조치를 제안하는 일까지 모델 스스로 가능하다는 것이다.

내부적으로 스코프AI는 여러 개의 LLM으로 구성되어 있으며, 각 모델은 진료 과정의 특정 단계를 담당한다. 예컨대 환자의 답변을 바탕으로 적절한 추가 질문을 생성하거나, 가능한 질환 목록을 작성하는 식이다. 대부분의 LLM은 메타의 오픈 액세스 모델인 라마(Llama)를 정교하게 조정한 버전이지만, 굿너는 이 시스템이 앤트로픽의 클로드(Claude) 모델도 함께 활용하고 있다고 덧붙였다.

진료가 진행되는 동안 의료 보조원은 스코프AI 인터페이스에 표시된 질문을 환자에게 그대로 읽어주고, 환자의 답변을 분석한 스코프AI는 새로운 질문을 추가로 제시한다. 이후 의사가 결과를 검토할 수 있도록 환자의 진료 내용을 요약한 간결한 기록지가 생성된다. 이 기록지에는 환자 방문 요약, 가장 가능성이 높은 진단, 두세 가지 대체 진단, 그리고 진료 의뢰나 처방과 같은 후속 권고가 포함된다. 각 진단과 권고에는 그에 대한 근거도 함께 제시된다.

현재 스코프AI는 순환기, 내분비, 일반 진료 클리닉과, 로스앤젤레스 노숙인 인구를 돌보는 아키도의 거리 진료(street medicine) 팀에서 사용되고 있다. 이 팀은 중독 의학 전문의 스티븐 호치만(Steven Hochman) 박사가 이끌고 있으며, 지역사회로 직접 찾아가 환자들이 의료 서비스를 받을 수 있도록 돕는다. 여기에는 약물 사용 장애 치료도 포함된다.

과거에는 오피오이드 중독 치료 약물을 처방하려면 의사가 환자를 직접 만나야 했다. 그러나 이제는 스코프AI를 활용한 사례 관리 담당자가 환자와 단독으로 인터뷰를 진행할 수 있고, 의사는 추후에 시스템의 권고안을 승인하거나 거부하면 된다. 호치만 박사는 “덕분에 동시에 10곳에 있는 것과 같은 효과를 낼 수 있다”고 말했다.

스코프AI를 도입한 이후 환자들은 24시간 이내에 중독 치료 약물을 받을 수 있게 되었으며, 호치만 박사는 이를 ‘전례 없는 일’이라고 표현했다.

이러한 방식이 가능한 이유는 노숙인 환자 대부분이 메디케이드를 통해 진료를 받기 때문이다. 메디케이드는 의사들이 스코프AI의 처방과 치료 계획을 찾아가는 의료 서비스와 병원 진료 모두에서 비대면으로 가능하도록 허용한다. 반면 다른 많은 보험사는 의사가 환자와 직접 대면하거나 통화한 뒤에야 해당 권고안을 승인할 수 있도록 요구한다. 피어슨은 이러한 차이가 우려를 불러일으킨다먀 “이로 인해 건강 격차가 더욱 심화될까 걱정된다”고 말했다.

사만트는 이런 불평등이 의도된 결과가 아니라 단지 현행 보험 제도의 구조에서 비롯된 특징일 뿐이라고 설명했다. 그는 또한 메디케이드 환자 입장에서는 긴 대기시간과 제한된 의료서비스를 감수하는 것보다 AI 의료 보조원을 통해 더 신속하게 진료를 받는 편이 나을 수 있다고 지적했다. 아울러 모든 아키도 환자는 원한다면 얼마든지 전통적인 의사 진료를 선택할 수 있다고 덧붙였다.

스코프AI와 같은 도구를 도입할 때 직면하는 한 가지 과제는 애초에 AI 시스템의 존재를 전제하지 않고 설계된 기존의 규제와 보험 체계 안에서 합법적으로 진료가 이루어지도록 조율하는 것이다. 하버드 로스쿨의 글렌 코헨(Glenn Cohen) 교수는, 사실상 ‘컴퓨터 안의 의사(doctor in a box)’처럼 기능하는 AI 시스템은 FDA의 승인을 받아야 할 가능성이 크며, 의사 면허법을 위반할 소지도 있다고 지적했다. 해당 법은 오직 의사와 공인된 전문인만 의료 행위를 할 수 있도록 규정한다.

캘리포니아 의료행위법(California Medical Practice Act)은 AI가 환자를 진단하고 치료할 의사의 책임을 대체할 수 없다고 규정하지만, 의사들이 업무에 AI를 활용하는 것은 허용하며, 진단을 내리기 전에 환자를 직접 만나거나 실시간으로 볼 필요는 없다고 명시한다. 미국 식약청(FDA)이나 캘리포니아 의료위원회(Medical Board of California) 역시 시스템에 대한 서면 설명만으로는 스코프AI가 법적으로 문제가 없는지 확답할 수 없었다.

하지만 사만트는 아키도가 규정을 준수하고 있다고 자신한다. 스코프AI는 의도적으로 ‘컴퓨터 안의 의사’까지의 수준에는 미치지 않도록 설계되었기 때문이다. 시스템이 생성하는 모든 진단 및 치료 권고안은 반드시 인간 의사가 검토하고 승인해야 하므로, FDA 승인은 필요하지 않다고 그는 설명했다.

생산성 향상과 환자 안전 사이의 딜레마

진료 현장에서는 AI와 의사가 미묘한 균형을 이루며 의사결정을 내리지만, 이 과정에서 환자는 철저히 배제된다. 환자들은 스코프AI 인터페이스를 직접 접하지 않는다. 대신 진료보조 간호사가 마치 일반적인 진료에서 의사가 문진하는 것처럼 환자와 대화를 이어갈 뿐이다. 이러한 방식은 환자들에게 심리적 안도감을 줄 수 있다. 그러나 오바마 및 바이든 행정부에서 활동한 경험이 있는 펜실베이니아대학교 의학윤리·보건정책학 교수 지크 이매뉴얼(Zeke Emanuel)은, 이러한 편안함이 알고리즘이 오히려 환자 진료에 미치는 실제 영향력을 환자들이 제대로 인식하지 못하게 만들 수 있다고 우려한다.

피어슨 역시 이에 동의하며, “이는 전통적으로 의학에서 말하는 ‘인간적 접촉’과는 분명히 거리가 있다”고 지적했다.

캘리포니아 랜초쿠카몽가에 위치한 아키도의 심장내과에서 근무하는 진료보조 간호사인 디앤드레 시링고링고(DeAndre Siringoringo)는, 담당 환자들에게 진료 중 AI 시스템이 정보 수집을 위해 대화를 청취할 것임을 고지하지만, 스코프AI가 구체적으로 어떻게 작동하는지는 설명하지 않는다고 말했다. 물론 의사들이 스코프AI가 제시한 권고안을 참고하는 것 역시 환자들은 알지 못한다.

스코프AI가 제시한 모든 권고안은 반드시 의사가 검토하므로 겉보기에는 큰 문제가 없어 보일 수 있다. 최종 진단을 내리는 주체는 어디까지나 AI가 아닌 의사이기 때문이다. 그러나 여러 연구 결과, AI 진단 시스템을 활용하는 의사들이 자동화 편향(automation bias)으로 인해 시스템의 권고를 실제로는 지나치게 신뢰하는 경향이 있음이 널리 보고되어 있다.

아키도 클리닉에서 자동화 편향이 의사들의 결정에 실제로 영향을 미치고 있는지 현시점에서는 단정할 수 없다. 다만 피어슨은 이러한 현상이 의사가 직접 진료 현장에 참여하지 않을 때 특히 더 큰 위험 요인이 될 수 있다고 지적했다. 그녀는 “진료실에서 과정을 직접 지켜보며 판단할 때와는 달리, 비판 없이 ‘그냥 동의하는’ 방식으로 휩쓸릴 가능성이 우려된다”고 말했다.

아키도 측 대변인은 자동화 편향 문제가 의학적 결정을 보조하는 모든 AI 도구에서 제기될 수 있는 타당한 우려라고 인정하면서, 이를 완화하기 위한 노력을 기울이고 있다고 설명했다. 대변인은 “스코프AI는 의료 판단에 영향을 줄 수 있는 맹점을 사전에 보정하여 편향을 줄이도록 설계되었으며, 이는 전통적으로 의사의 직관과 개인 경험에 과도하게 의존해 온 측면을 보완한다”고 설명했다. 또한 “의사들에게도 스코프AI를 신중하게 사용하는 방법을 명확히 교육해, 책임을 유지하는 동시에 과도한 의존을 방지하고 있다”고 덧붙였다.

아키도는 스코프AI의 성능을 평가하기 위해 과거 의료 데이터를 활용해 일종의 백테스트(backtest)를 수행한다. 또한 모델이 제시한 진단을 의사들이 얼마나 자주, 어떤 방식으로 수정하는지 살펴보고, 이렇게 수정된 결과를 추가 학습에 반영한다. 아키도는 특정 전문 분야에 스코프AI를 도입하기 전에, 모델이 제시하는 상위 3개 권고안 안에 올바른 진단이 최소 92% 이상 포함되도록 보장한다.

다만 아키도는 전통적인 대면 진료나 원격 진료와 대비한 더 엄격한 연구를 아직 진행하지 않았다. 실제로 스코프AI가 환자의 치료 효과를 높이는지, 아니면 최소한 현 상태를 유지하는지 확인하는 과정이 필요하다. 이러한 검증이 있어야 자동화 편향이 실제로 문제가 되는지를 판단할 수 있다.

피어슨은 “의료비 절감과 의료서비스의 접근성 향상을 목표로 삼은 점은 높이 평가할 만하다”면서도 “그러나 기존 방식과 철저한 비교 평가가 반드시 이루어져야 한다고 생각한다”고 덧붙였다.

The post 의사 대신 AI…새로운 진료 모델 만드는 美 스타트업 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.