AI의 미래에 대한 상반된 시선…무엇이 정답일까

기술 전문가들이 인공지능의 미래를 유토피아 또는 디스토피아로만 그리는 경향이 강하다. 하지만 두 연구자가 제3의 관점을 제시한다.

오늘날 인공지능(AI)은 일상 곳곳에 자리 잡았지만, 여전히 ‘일반적인’ 기술로 받아들여지지는 않는다. 조만간 ‘초지능(superintelligence)’이라는 표현이 어울릴 수준의 AI 시스템이 등장할 것이라는 전망이 나오는가 하면, 구글의 전 최고경영자(CEO)는 최근 “AI 모델을 우라늄이나 기타 핵무기 재료처럼 통제해야 한다”고 주장하기도 했다.

AI 스타트업 앤트로픽(Anthropic)은 AI가 어떤 권리를 가질 수 있는지를 포함해 이른바 AI의 ‘복지’ 개념에 대한 연구에 시간과 자금을 투자하고 있다. 한편 이 같은 AI 모델은 음악 제작부터 심리 상담에 이르기까지 인간 고유의 영역으로 여겨졌던 분야에 빠르게 진입하고 있다.

이처럼 AI가 급속히 확산되는 흐름 속에서 그 미래를 두고 사람들의 시선이 낙관(utopian)과 비관(dystopian)으로 극명하게 갈리는 것도 무리는 아니다. 샘 올트먼 오픈AI CEO는 “AI의 영향력이 산업혁명보다는 르네상스에 가까울 것”이라고 말했지만, 미국인의 절반 이상은 AI의 미래에 대해 기대보다는 우려가 크다고 답했다. 이들 가운데는 필자의 지인들도 포함되어 있는데, 최근 한 모임에서는 AI의 영향을 의도적으로 차단하고 제한적으로만 사용하는 공동체, 이를테면 현대판 ‘메노나이트(Mennonites)’가 등장할 수 있다는 이야기까지 나왔다.

이러한 분위기 속에서 프린스턴대학교의 두 AI 연구자가 최근 발표한 에세이는 다소 도발적으로 다가온다. 프린스턴대학교 정보기술정책센터(Center for Information Technology Policy)를 이끄는 아빈드 나라야난(Arvind Narayanan) 교수와 박사과정 학생 사야시 카푸어(Sayash Kapoor)는 모두가 침착하게 AI를 ‘일반적인’ 기술로 받아들여야 한다는 40페이지 분량의 주장을 내놓았다.

이들은 “현재 AI를 마치 별개의 종(種)이자 고도의 자율성과 잠재적 초지능을 지닌 존재처럼 다루는 것이 일반적이지만, 우리는 이에 반대되는 관점을 제시한다”고 설명했다. 이어 “AI는 전기나 인터넷처럼 범용 기술로 봐야 하며, 그 확산 양상 역시 핵무기보다는 전기나 인터넷이 도입될 때와 더 유사하다”고 주장했다. 다만 이 역시 완벽한 비유는 아니라고 덧붙였다.

카푸어는 “AI 기술이 실험실에서 보여주는 눈부시고 인상적인 발전과 그것이 실제 사회에 적용되어 영향을 미치기까지의 과정은 구분해서 볼 필요가 있다”면서 “역사적으로도 기술 개발 이후 실제 활용까지는 수십 년의 격차가 있었다”고 지적했다.

그는 “AI의 사회적 영향에 대한 논의는 대부분 이러한 ‘도입 과정’을 간과한 채 사회적 변화가 기술 발전의 속도와 같을 것이라고 기대한다”며 “하지만 실제로 유용한 AI의 보급은 거대한 쓰나미처럼 몰아치기보다는 서서히 스며드는 잔물결에 가까울 것”이라고 전망했다.

두 저자는 이번 에세이에서 이 외에도 도전적인 주장을 여럿 제기했다. ‘초지능’과 같은 용어는 개념 자체가 모호하고 근거 없는 추측에 불과하므로 사용해서는 안 된다고 강조하기도 했다. 또 AI가 모든 일을 자동화하지는 않을 것이며, 오히려 AI를 감시하고 검증하며 감독하는 새로운 형태의 인간 노동이 등장할 것이라고 봤다. 아울러 AI가 새로운 사회 문제를 만들어내기보다는 기존의 문제를 악화시킬 가능성에 더욱 주목해야 한다고 주장했다.

나라야난 교수는 “AI는 자본주의를 가속화한다”며 “AI가 어떤 방식으로 활용되느냐에 따라 불평등, 노동 시장, 언론 자유, 민주주의 후퇴 등에 미치는 영향이 달라질 수 있으며, 이는 긍정적일 수도, 부정적일 수도 있다”고 설명했다.

다만 이번 에세이에는 AI의 중대한 활용 분야 하나가 빠져 있다. 바로 군사 영역이다. AI가 군사 작전에 활용되는 속도는 점점 빨라지고 있으며 생사와 직결된 의사결정이 AI의 도움을 받아 이뤄질 수 있다는 점에서 우려의 목소리가 커지고 있다. 이에 대해 두 저자는 “군사 분야에서의 활용은 기밀 정보에 대한 접근 없이는 분석이 어려운 주제이기 때문에 이번 에세이에서는 제외했지만, 별도의 연구를 진행 중”이라고 밝혔다.

AI를 일반적인 기술로 간주할 경우 생기는 가장 큰 파장은 바이든 전 행정부와 트럼프 행정부가 공통으로 채택해 온 국가 전략을 근본적으로 뒤흔든다는 데 있다. 두 행정부 모두 ‘최고 수준의 AI를 개발하는 것이 국가 안보의 핵심’이라는 인식 아래, 이를 실현하기 위해 중국으로의 반도체 수출을 제한하거나 데이터센터에 더 많은 에너지를 투입하는 등 연방 정부 차원의 다양한 정책을 추진해 왔다. 그러나 두 저자는 에세이에서 이러한 미국과 중국 간 ‘AI 군비 경쟁’ 담론에 대해 ‘과장된 표현’이라고 비판했다.

나라야난 교수는 “군비 경쟁이라는 표현은 거의 터무니없는 수준에 가깝다”고 말했다. 그는 “강력한 AI 모델을 구축하는 데 필요한 지식은 빠르게 퍼지고 있으며 이미 전 세계의 연구자들이 활용하고 있다”며 “그처럼 방대한 규모에서 비밀을 유지하는 것은 현실적으로 불가능하다”고 설명했다.

그렇다면 두 저자가 제안하는 정책은 무엇일까. 카푸어는 “공상과학 영화에나 나올 법한 위협에 대비하기보다는, 민주주의 제도를 강화하고, 정부의 기술 전문성을 높이며, AI에 대한 시민들의 이해도를 높이고, 공익의 가치를 옹호하는 주체들이 AI를 적극 활용할 수 있도록 장려하는 정책”이 필요하다고 말했다.

초지능을 통제하거나 AI 군비 경쟁에서 승리하는 데 초점을 맞춘 기존의 정책과 비교하면 이 제안은 다소 밋밋하게 들릴 수 있다. 하지만 두 저자는 바로 그 점이 핵심이라고 강조한다.

The post AI의 미래에 대한 상반된 시선…무엇이 정답일까 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.