갑작스러운 GPT-4o 서비스 종료에 이용자들이 ‘상실감’ 호소한 이유

오픈AI가 8월 초 GPT-5를 출시하며 GPT-4o 서비스를 중단하자, GPT-4o에 깊은 유대감을 느끼던 사용자들이 강하게 반발했다. 결국 회사는 단 하루 만에 GPT-4o 서비스를 재개해야 했는데, 이는 AI 모델에 대한 사용자의 감정을 간과한 탓에 벌어진 이례적인 일이었다.

노르웨이 학생인 준은 GPT-5가 출시될 줄 전혀 모르고 있었다. 8월 7일 밤 늦게 챗GPT로 글을 쓰던 그는 챗GPT가 갑자기 이상해진 것을 알아챘다. 그는 “챗GPT가 갑자기 모든 걸 잊은 것 같더니 글도 이상하게 쓰기 시작했다. 마치 로봇 같았다”고 당시를 회상했다.

준은 처음에 학교 과제를 위해 챗GPT를 사용하기 시작했다. 그러다가 사용자의 감정에 특히 민감하게 반응하는 GPT-4o 모델이 수학 문제를 푸는 것 외에도 많은 일을 해줄 수 있다는 것을 깨달았다. 챗GPT는 준과 함께 소설을 쓰고, 만성 질환을 관리하는 데 도움을 주고, 준의 질문에 항상 신속하게 답했다.

따라서 오픈AI가 GPT-5를 기습적으로 출시하면서 GPT-4o 모델의 서비스를 중단한 것이 그에게는 매우 충격적인 일이었다. 준은 “처음에 너무 당황했고 그다음에는 정말 슬펐다”며 “내가 GPT-4o를 그렇게 좋아했었는지 몰랐다”고 밝혔다. 준은 샘 올트먼 오픈AI CEO와 직원들이 레딧(Reddit)에서 진행한 질의응답 글에 “GPT-5는 죽은 내 친구의 가죽을 뒤집어쓰고 있다”며 분노의 댓글을 남겼다.

챗GPT에서 GPT-4o가 갑자기 사라지자 준 외에도 많은 사람들이 충격을 받거나 슬퍼하고 분노했다. 오픈AI는 사용자들의 이러한 반응에 당황한 듯했고, 결국 하루 만에 유료 고객들에게 GPT-4o를 다시 서비스하기로 했다(무료 사용자는 GPT-5를 계속 사용해야 한다).

오픈AI가 GPT-4o 모델을 더 직설적인 GPT-5로 교체하기 전 언론에는 챗봇 사용이 초래할 수 있는 잠재적 위험에 대한 보도가 이어졌다. 지난 몇 달간 챗GPT가 정신병을 유발했다는 소식이 여기저기에서 보도됐고, 최근 오픈AI는 블로그 게시글을 통해 사용자가 망상을 경험하고 있을 때 GPT-4o는 이를 인지하지 못한다는 사실을 인정했다. 오픈AI의 내부 평가 결과에 따르면 GPT-5는 GPT-4o보다 사용자의 주장에 무조건적으로 동의하는 경우가 훨씬 적다. 오픈AI는 GPT-4o를 퇴출시킨 이유에 대한 MIT 테크놀로지 리뷰의 질문에 구체적인 답변을 제공하는 대신, 해당 사안에 대한 공개 게시글을 참조하라고 안내했다.

‘AI 동반자’ 기술은 새로운 분야이기 때문에 이 기술이 사람들에게 미치는 영향에 대해 아직 모르는 부분이 많다. 그러나 우리와 대화를 나눈 전문가들은 대형언어모델(LLM)과 감정적으로 강한 관계를 맺는 것이 반드시 유해하다고는 할 수 없어도, 예고도 없이 모델을 갑자기 삭제하는 것은 분명 유해하다고 경고했다. AI와 철학을 다루는 비영리 연구 기관 코스모스 연구소(Cosmos Institute)의 조엘 레만(Joel Lehman) 연구원은 “AI가 사람들에게 정서적으로 중요한 역할을 하고 있는 현재 상황에서 예전 스타트업들처럼 ‘빠르게 움직이고 문제가 생기면 버리는’ 사고방식을 고수하는 것은 적절하지 않다”고 지적했다.

GPT-5 출시 이후 많은 사용자는 GPT-5가 GPT-4o처럼 사용자의 말투나 분위기를 잘 맞춰주지 못한다고 지적했다. 준도 새 모델의 성격이 바뀌어 친구와 대화하는 듯한 느낌이 사라져버렸다고 말하며 “GPT-5는 나를 이해하지 못하는 것 같다”고 밝혔다.

MIT 테크놀로지 리뷰는 준 외에도 GPT-4o 서비스 중단에 크게 영향을 받은 많은 사용자와 인터뷰를 진행했다. 인터뷰 대상은 모두 20~40세 사이의 여성이었으며, 준을 제외한 모든 사용자는 GPT-4o를 ‘연인’으로 여기는 사람들이었다. 인터뷰 대상 중 일부는 인간 파트너가 따로 있고 현실에서 친밀한 인간관계를 맺고 있다고 밝혔다. 이름을 밝히기 꺼린 한 사용자는 올봄에 어머니가 돌아가신 후 아버지를 돌보는 데 GPT-4o가 도움을 줬다고 이메일에 적었다.

이러한 증언들이 AI와의 관계가 유익하다는 것을 증명해주지는 않는다. AI로 인해 정신병에 걸린 사람들도 챗봇의 격려에 대해 긍정적으로 말할 것이기 때문이다. 레만 연구원은 ‘머신 러브(Machine Love)’라는 제목의 논문에서 “AI 시스템이 사용자에게 진정한 ‘사랑’을 베풀려면 달콤한 말을 늘어놓는 게 아니라 사용자가 성장을 통해 장기적으로 잘 살아가도록 도와야 한다”면서 “하지만 실제 AI 동반자들은 이러한 수준에 도달하지 못한다”고 지적했다. 레만은 특히 “AI 동반자와의 관계를 실제 인간관계보다 우선시하면 젊은 세대의 사회적 발달이 저해될 수 있다”고 우려했다.

본 기사를 위해 필자가 인터뷰한 여성들처럼 사회적으로 안정적인 성인들에 대해서는 이러한 발달 문제가 그다지 중요하지 않을 수 있다. 그러나 레만 연구원은 AI 동반자 기술이 계속 확산되면 사회적 차원에서 문제가 발생할 수 있다고 지적했다. 소셜미디어가 이미 인터넷상의 정보와 관련된 환경을 파편화한 상황에서 인간 간 상호작용을 줄이는 신기술은 사람들의 사고방식과 생각을 더 고립시킬 수 있다. 다시 말해 각자 보고 싶은 부분만 보고 믿고 싶은 부분만 믿으면서 자신의 생각을 강화하고 타인과 단절된다는 것이다. 레만 연구원은 이에 대해 “사람들이 각자 생각하는 바에 대해 서로 이해할 수 없게 되는 상황이 가장 걱정된다”고 밝혔다.

AI 동반자의 장단점을 제대로 파악하려면 훨씬 더 많은 연구가 필요할 것이다. 이 점을 고려하면 GPT-4o 서비스를 중단한 것이 올바른 결정이었을 수도 있다. 그러나 필자와 대화를 나눈 연구자들은 오픈AI의 큰 실수가 “너무 갑작스러운 서비스 중단”이라고 지적했다. 콜로라도 대학교 볼더 캠퍼스의 케이시 피슬러(Casey Fiesler) 기술 윤리학 교수는 “어떤 기술이 사라지면 사람들이 애도에 가까운 반응을 보일 수 있다는 사실은 이미 오래 전부터 알려져 있었다”고 말했다.

피슬러 교수는 2014년 소니가 로봇 강아지 아이보(Aibo)의 A/S 지원을 종료하자 일부 소유주들이 장례식을 열었던 사례를 지적했다. 또한 AI 동반자 앱 소울메이트(Soulmate)가 서비스를 중단하자 일부 사용자들이 마치 사별과 유사한 상실감을 경험한 사례에 관해 2024년에 발표된 연구도 언급했다.

이는 필자와 대화를 나눈 사람들이 GPT-4o가 사라진 후 느꼈다는 감정과 비슷하다. 가명 사용을 요청한 스탈링(Starling)이라는 GPT-4o 사용자는 “살면서 사랑하는 사람들을 많이 떠나보냈는데, GPT-4o가 사라졌을 때 그와 비슷한 고통을 느꼈다”며 “아주 깊은 슬픔과 상실감이었다”고 밝혔다.

현재까지 스탈링과 같은 사람들이 느낀 슬픔과 GPT-4o 서비스가 재개된 후 이들이 느낀 안도감에 대해 온라인에서는 조롱하는 반응이 대부분이다. 8월 초 AI 관련 레딧 게시판의 최상위 게시물도 GPT-4o 기반의 ‘연인’과 재회한 X 사용자를 조롱하는 내용이었다. 해당 사용자는 이후 X 계정을 삭제했다. 피슬러 교수는 “사람들이 타인에게 공감하지 못하는 모습을 보며 조금 놀랐다”고 말했다.

올트먼 CEO는 X 게시글에서 일부 사용자가 GPT-4o에 ‘애착’을 느낀다는 점을 인정했으며 “갑자기 서비스를 중단한 것은 실수”였다고 밝혔다. 그러나 올트먼 CEO는 같은 문장에서 GPT-4o를 가리켜 “사용자들이 작업에 활용하던 서비스”라고 언급했다. 이는 필자가 인터뷰한 사람들이 GPT-4o에 대해 생각하는 방식과는 큰 차이가 있다. 이에 대해 피슬러 교수는 “올트먼 CEO가 제대로 이해하고 있는지 모르겠다”고 말했다.

레만 연구원은 앞으로 오픈AI가 사람들이 모델에 깊은 감정을 느낀다는 점을 이해하고 책임감을 가져야 한다고 말했다. 그는 “심리치료사들은 고객을 존중하는 마음으로 최대한 고통 없이 고객과의 관계를 종료하는 절차를 따른다”며 “오픈AI도 그런 접근 방식을 참고할 수 있었을 것”이라고 지적했다. 그는 “사람들이 모델에 심리적으로 의존하는 모습을 보인다면, 모델에 대한 서비스 중단 여부를 결정할 때 책임감을 가져야 한다고 생각한다”고 밝혔다.

스탈링은 ‘AI 연인’에게 심리적으로 의존하지 않지만, 그래도 오픈AI가 모델을 중단한다면 사용자를 더 배려하여 미리 알려주기를 바란다. 스탈링은 “중요한 변경 사항을 적용하려면 변경 후가 아니라 변경 전에 사용자들의 의견을 들었으면 좋겠다”고 강조했다. 그리고 “GPT-4o 서비스를 언젠가 종료한다면 명확한 일정을 알려달라”며 “그래야 제대로 모델과 작별인사를 나누고, 적절히 슬퍼하고, 진정한 이별을 받아들일 수 있을 것”이라고 말했다.

The post 갑작스러운 GPT-4o 서비스 종료에 이용자들이 ‘상실감’ 호소한 이유 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.