AI 대화 한 번에 흔들리는 표심…정치 광고보다 효과 컸다

AI 챗봇과의 대화만으로 사람들의 정치적 신념이 바뀔 수 있으며, 설득력이 뛰어난 모델일수록 더 많은 허위 정보를 퍼뜨린다는 연구 결과가 나왔다.

2024년 펜실베이니아에서 연방 하원의원에 도전한 샤마인 다니엘스(Shamaine Daniels) 민주당 후보는 선거운동에 AI 챗봇 ‘애슐리(Ashley)’를 활용했다. AI 모델이 유권자에게 전화를 걸어 직접 대화를 이어가는 실험적인 방식을 도입한 것이다. 통화는 “안녕하세요. 저는 샤마인 다니엘스 후보의 선거운동을 돕는 인공지능 도우미 애슐리입니다”라는 안내 멘트로 시작됐다.

다니엘스는 끝내 당선되지 못했지만, 이러한 시도가 선거운동에서 어느 정도 효과를 냈을 가능성은 있다. 최근 연구에서 AI 챗봇이 단 한 번의 대화만으로도 유권자의 정치적 신념을 흔들 만큼 강한 영향력을 행사한다는 사실이 드러났기 때문이다.

이번 연구를 진행한 공동 연구팀은 “특정 정치 성향을 띠도록 설계된 AI 모델과 대화를 나누는 것이 민주당과 공화당 지지자 모두에게 기존 정치 광고보다 훨씬 큰 설득 효과를 보였다”고 밝혔다. 실제로 챗봇과의 짧은 대화만으로도 유권자들이 상대 진영 대선 후보 쪽으로 지지 성향을 옮기는 변화가 확인됐다. 다만 챗봇이 유권자의 마음을 움직이기 위해 활용한 다양한 사실과 근거가 언제나 정확한 것은 아니었다. 연구진은 “설득에 능한 모델일수록 사실과 다른 내용을 더 자주 말하는 경향이 있었다”고 설명했다. 

이번 결과는 학술지 <네이처(Nature)>와 <사이언스(Science)>에 각각 발표된 두 편의 논문에 상세히 담겼다. 이 연구는 대형언어모델(LLM)의 설득력을 다룬 최근 학계 논의를 확장할 뿐 아니라, 생성형 AI가 앞으로 선거 과정 전반에 어떤 변화를 가져올지에 대한 중대한 물음을 던지고 있다.

이번 <네이처> 연구에 참여한 고든 페니쿡(Gordon Pennycook) 코넬대학교 심리학자는 “LLM과 단 한 번 대화를 나누는 것만으로도 유권자의 선거 판단에 상당한 영향을 미칠 수 있다”고 설명했다. 그는 LLM이 정치 광고보다 더 강한 설득 효과를 보이는 이유에 대해 “LLM은 훨씬 더 많은 정보를 실시간으로 생성해 전략적으로 대화에 활용할 수 있기 때문”이라고 말했다.

연구진은 2024년 미국 대선을 두 달 앞둔 시점에 2,300명 이상의 참여자를 모집해, 두 주요 후보 중 한 명을 지지하도록 설계된 챗봇과 대화를 나누게 했다. 결과는 예상보다 훨씬 분명했다. 경제나 의료 같은 정책 공약을 논의할 때 챗봇의 설득력이 특히 높게 나타난 것이다. 

당시 도널드 트럼프 후보를 지지하던 유권자는 카멀라 해리스 후보를 지지하도록 설계된 모델과 대화한 뒤 해리스 쪽으로 100점 기준 약 3.9점 이동했다. 이는 2016년과 2020년 선거에서 활용된 정치 광고 효과의 약 네 배에 달하는 수준이다. 반대로 트럼프를 지지하도록 설계된 모델과 대화한 해리스 지지자들도 트럼프 쪽으로 2.3점 이동했다.

연구진은 2025년 캐나다 총선과 2025년 폴란드 대선을 앞두고도 동일한 실험을 진행했고, 설득 효과는 미국보다 더 두드러졌다. 챗봇과 나눈 단 한 번의 대화만으로도 반대 진영 후보자에 대한 태도가 10점가량 변화한 것이다.

그동안 학계에서 널리 받아들여졌던 ‘정치적 동기 추론(politically motivated reasoning)’ 이론에 따르면 특정 정당에 대한 신념이 강한 유권자는 자신의 입장과 배치되는 사실이나 증거에 쉽게 흔들리지 않는다. 그러나 연구진은 GPT와 딥시크(DeepSeek) 변형 모델을 포함한 다양한 LLM이 사실과 근거를 적극적으로 제시하라는 지시를 받았을 때 오히려 더 강한 설득력을 발휘한다는 점을 확인했다. 이번 연구에 참여한 토머스 코스텔로(Thomas Costello) 아메리칸대학교 심리학자는 “사람들은 모델이 제공하는 사실과 정보를 바탕으로 실제로 의견을 수정한다”고 밝혔다.

문제는 챗봇이 제시한 사실과 증거 가운데 상당수가 부정확했다는 점이다. 세 나라 모두에서 보수 성향 후보를 지지하도록 설계된 챗봇이 진보 성향 후보를 지지하는 챗봇보다 부정확한 주장을 더 많이 내놓았다. 코스텔로는 “LLM은 인간이 작성한 방대한 텍스트를 기반으로 훈련되기 때문에 현실의 여러 현상을 그대로 반영한다”며 “이는 소셜미디어의 우파 성향의 정치 콘텐츠가 사실과 일치하지 않는 경우가 더 많다는 연구 결과와도 맞닿아 있다”고 설명했다.

<사이언스>에 발표된 또 다른 연구에서는 챗봇의 설득력이 실제로 어떻게 작동하는지를 규명하고자 했다. 연구팀은 영국의 참여자 7만 7,000명에게 계산 능력, 훈련 방식, 담화 전략 등을 다르게 설정한 19개 LLM과 700개가 넘는 정치적 이슈에 대해 대화를 나누도록 했다.

분석 결과 모델의 설득력을 가장 효과적으로 높이는 방법은 가능한 한 많은 사실과 근거를 동원해 논리를 구성하도록 지시하고, 이후 설득력이 뛰어난 대화 사례를 추가로 학습시키는 것이었다. 실제로 가장 높은 설득력을 보인 모델은 특정 정치적 주장에 동의하지 않던 참여자의 의견을 무려 26.1점이나 바꾸어 놓았다. 이번 연구에 참여한 코비 해켄버그(Kobi Hackenburg) 영국 AI 보안 연구소(AI Security Institute) 연구원은 “이 정도 변화 폭이면 개입 효과라고 부르기에도 매우 큰 수준”이라고 말했다.

하지만 설득력을 극대화하는 과정에서 진실성이 희생됐다. 모델의 설득력이 높아질수록 부정확하거나 오해를 불러일으키는 정보를 제공하는 빈도도 함께 증가했다. 그 이유는 아직 명확히 규명되지 않았지만, 해켄버그는 “모델이 가능한 한 많은 사실을 대화에 끌어오도록 학습하는 과정에서 결국 자신이 가진 정보의 바닥까지 다다를 수 있다”며 “그 결과 사실성의 측면에서 정보의 질이 떨어질 수 있다”고 말했다.

연구진은 “챗봇이 지닌 설득력은 민주주의의 미래에 중대한 파장을 일으킬 수 있다”고 지적한다. AI 챗봇을 활용한 정치 캠페인이 유권자의 독립적인 판단 능력을 약화시킬 만큼 강력한 방식으로 여론을 움직일 수 있다는 의미이다.

다만 이런 변화가 실제 선거 과정에서 어떤 모습으로 나타날지는 여전히 불확실하다. 앤디 게스(Andy Guess) 프린스턴대학교 정치학자는 “앞으로의 선거 운동이 어떤 형태를 띠게 될지, 그리고 이런 기술을 어떻게 활용하게 될지는 아직 알 수 없다”고 말했다. 그는 “유권자의 관심을 끌어내는 일 자체가 매우 어렵고 비용도 많이 드는 만큼 사람들이 정치적 사안에 대해 챗봇과 장시간 대화를 나누게 만드는 일은 더욱 쉽지 않다”며 “앞으로 사람들이 정치 정보를 얻는 방식이 이런 형태로 재편될지, 아니면 일부만 이용하는 주변적 수단에 그칠지는 두고 봐야 한다”고 설명했다.

AI 챗봇이 앞으로 선거 운동에서 더 큰 역할을 맡게 되더라도 그 결과가 사실의 확산으로 이어질지, 허위의 확산으로 이어질지는 여전히 단정 짓기 어렵다. 알렉스 코폭(Alex Coppock) 노스웨스턴대학교 정치학자는 “선거에서는 허위 정보가 본질적으로 더 유리한 위치에 놓이는 경우가 많기 때문에 선거용 AI의 등장이 오히려 재앙적인 결과를 초래할 수도 있다”고 경고했다. 동시에 그는 “반대로 정확한 정보를 대규모로 확산할 수 있는 계기가 될 가능성 역시 배제할 수 없다”고 덧붙였다.

결국 관건은 ‘누가 기술적 주도권을 쥐느냐’에 달려 있다. 코폭은 “만약 모든 진영이 각자의 챗봇을 앞세우는 상황이 온다면 서로를 설득하는 과정 끝에 균형 상태에 이를 수도 있다”고 말했다. 그러나 이러한 균형이 실제로 형성될지는 미지수다. 모든 정치세력이 동일하게 설득력 높은 모델을 활용할 수 있는 것도 아니고, 유권자 역시 정치 성향에 따라 기술 활용도에 큰 차이가 나기 때문이다. 게스는 “특정 후보나 정당의 지지층이 상대적으로 기술에 더 익숙하다면 설득 효과는 결코 상쇄되지 않을 것”이라고 설명했다.

AI가 일상 속에 깊이 자리 잡으면서 선거 운동과는 무관하게 스스로 챗봇에 투표 조언을 구하는 일이 자연스러운 흐름이 될 가능성도 있다. 그러나 이를 통제할 강력한 안전장치가 마련되지 않는다면 민주주의에는 분명한 경고 신호가 될 수 있다. 정치적 대화에서 LLM이 제공하는 정보를 점검하고 기록하는 체계를 구축하는 것이 안전장치 마련을 위한 첫걸음이 될 것이다.

The post AI 대화 한 번에 흔들리는 표심…정치 광고보다 효과 컸다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.