[단독] 전장으로 간 생성형 AI…미군, 표적 선정에 ‘챗봇’ 활용하나

미군이 생성형 AI를 활용해 타격 대상의 우선순위를 분석하고 공격 순서를 제안받는 방안을 검토 중인 것으로 전해졌다. 다만 AI의 권고안은 최종적으로 인간의 검토와 승인을 거치게 될 전망이다.

📋한눈에 보는 AI 요약▶ 펼쳐보기

미국 군대가 전쟁에서 챗봇과 같은 생성형 AI를 활용해 어떤 목표를 먼저 공격할지 우선순위를 정하는 데 도움을 받을 수 있다고 미 국방부 관계자가 밝혔습니다. 이 AI는 다양한 정보를 분석해 추천안을 제시하지만, 최종 결정은 반드시 사람이 검토하고 승인하는 방식입니다. 미군은 이미 2017년부터 ‘메이븐’이라는 AI 시스템을 사용해 왔는데, 여기에 챗GPT나 클로드 같은 대화형 AI가 추가되고 있습니다. 다만 최근 이란 여학교 공습 오류 사건을 계기로 군사 목적의 AI 사용에 대한 우려와 감시도 커지고 있습니다.

왜 중요한가요?

AI가 군사 작전처럼 생사가 걸린 결정에까지 쓰이기 시작하면서, AI의 정확성과 안전성 문제가 우리 모두의 안전과 직결되는 사안이 되었기 때문입니다.

주요 용어 설명

메이븐 (Project Maven)

미군이 2017년부터 운영해 온 군사용 AI 프로젝트입니다. 드론이 촬영한 수천 시간의 영상을 AI가 자동으로 분석해서 적의 위치나 장비 같은 잠재적 목표물을 찾아내는 역할을 합니다. 사람이 일일이 영상을 보는 대신 AI가 빠르게 걸러주는 도우미라고 할 수 있습니다.

기밀 환경 (Classified Environment)

일반인이 접근할 수 없는 보안이 철저한 군사용 컴퓨터 네트워크를 말합니다. 일반 인터넷과 완전히 분리되어 있어 군사 기밀 정보가 외부로 유출되지 않도록 보호하는 시스템입니다.

⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.

미군이 전쟁에서 생성형 인공지능(AI)을 활용해 타격 대상의 우선순위를 분석하고 어떤 목표를 먼저 공격할지에 대한 제안을 받을 가능성이 있다고 사안에 정통한 미 국방부 관계자가 12일(현지시간) MIT 테크놀로지 리뷰에 밝혔다. 다만 이러한 AI 권고안은 최종적으로 인간의 검토와 승인을 거치게 될 것이라고 그는 설명했다.

미군이 전쟁에서 AI 챗봇을 어떻게 활용할 수 있는지를 보여주는 이 발언은 최소 168명의 목숨을 앗아간 이란 남부 미나브의 한 여학교 공습 사건을 둘러싸고 미군의 책임 여부 논란이 이어지는 가운데 나왔다.

사안의 민감성을 고려해 익명을 요구한 이 관계자에 따르면 미군은 기밀 환경에서 운영되는 생성형 AI 시스템에 잠재적 표적 목록을 입력할 수 있다. 이후 군 인력이 시스템에 분석을 요청하면 항공기 배치 상황 등 다양한 요소를 고려해 표적의 우선순위를 제시하고, 인간이 결과와 권고 내용을 검토·평가하는 방식이다.

이론적으로는 오픈AI의 챗GPT와 xAI의 그록 같은 모델이 향후 이러한 방식에 활용될 가능성이 있다. 두 회사 모두 최근 국방부가 기밀 환경에서 자사 AI 모델을 사용할 수 있도록 하는 협약을 체결했기 때문이다.

다만 국방부 관계자는 “이는 미군이 AI 챗봇을 전쟁에 활용할 수 있는 사례를 설명한 것”이라며 현재 실제 작전에서 이 같은 방식으로 챗봇이 사용되고 있는지에 대해서는 확인도 부인도 하지 않았다.

일부 언론은 앤트로픽의 클로드가 기존 군용 AI 시스템에 통합돼 이란과 베네수엘라 작전에 활용됐다고 보도했다. 그러나 국방부 관계자의 발언은 특히 표적 탐색 속도를 높이는 과정에서 AI 챗봇이 수행할 수 있는 역할을 보여준다는 점에서 주목된다.

‘메이븐’ 위에 생성형 AI 추가

미군은 최소 2017년부터 ‘메이븐(Maven)’이라는 빅데이터 기반 군용 AI 프로젝트를 운영해 왔다. 이 시스템은 컴퓨터 비전 등 기존 AI 기술을 활용해 국방부가 수집한 방대한 영상과 데이터를 분석한다.

예를 들어, 메이븐은 수천 시간 분량의 무인기 촬영 영상을 분석해 알고리즘으로 잠재적 표적을 식별할 수 있다. 2024년 나온 조지타운대 보고서에 따르면 미군은 메이븐을 활용해 표적을 검토하고 공격 승인 절차를 진행해 왔다.

군인들은 전장 지도와 대시보드가 있는 인터페이스를 통해 메이븐과 상호작용했으며, 이 인터페이스는 잠재적 표적과 아군을 서로 다른 색상으로 표시했다.

국방부 관계자의 발언은 생성형 AI가 이러한 기존 시스템에 대화형 챗봇 기능으로 추가되고 있음을 시사한다. 이를 통해 미군은 표적 우선순위를 결정할 때 필요한 데이터를 더 빠르게 검색하고 분석할 수 있게 될 것으로 보인다.

다만 생성형 AI는 기존 군사 AI와 기술적 성격이 크게 다르다. 챗GPT, 클로드, 그록 등은 대형언어모델(LLM)을 기반으로 하며 군사 분야 적용 역사가 비교적 짧다.

기존 메이븐 시스템은 사용자가 지도 위 데이터를 직접 확인하고 해석해야 했지만, 생성형 AI는 결과를 텍스트 형태로 쉽게 제공한다. 대신 결과의 정확성을 검증하기는 더 어렵다는 문제가 있다.

국방부 관계자는 생성형 AI 도입으로 표적 선정 과정에 걸리는 시간이 단축되고 있다고 밝혔지만, 인간의 재검증 과정까지 포함했을 때 얼마나 속도가 개선되는지에 대해서는 구체적인 설명을 내놓지 않았다.

이란 공습 논란 속 군사 AI 주목

최근 이란의 한 여학교 공습 사건 이후 군사 목적으로 AI를 사용하는 것에 대한 감시도 강화되고 있다. 여러 언론은 해당 공격이 미국 미사일에 의해 이뤄졌을 가능성을 제기했지만, 국방부는 현재 조사 중이라는 입장을 유지하고 있다.

‘워싱턴포스트’는 클로드와 메이븐이 이란 표적 결정 과정에 관여했을 수 있다고 보도했다. 다만 생성형 AI가 어떤 역할을 했는지에 대한 명확한 증거는 아직 나오지 않았다. ‘뉴욕타임스’는 10일 예비 조사 결과 오래된 표적 데이터로 좌표가 생성된 것이 공격 오류의 원인일 수 있는 것으로 나타났다고 보도했다.

미 국방부는 최근 몇 달 동안 군 전반에서 AI 활용을 확대하고 있다. 지난해 12월에는 ‘GenAI.mil’ 프로그램을 통해 수백만 명의 군 장병에게 계약서 분석이나 프레젠테이션 작성 등 비기밀 환경에서 생성형 AI 모델 사용을 허용했다.

현재 기밀 환경에서 사용이 승인된 생성형 AI 모델은 제한적이다.

가장 먼저 앤트로픽의 클로드가 사용 승인을 받았다. 클로드는 이란 작전뿐 아니라 지난 1월 니콜라스 마두로 베네수엘라 대통령 체포 작전에도 활용된 것으로 알려졌다.

그러나 최근 국방부와 앤트로픽 사이에서 군의 AI 사용 제한 여부를 둘러싼 갈등이 발생했다. 국방부는 이를 공급망 위험으로 지정했고, 도널드 트럼프 대통령은 소셜미디어를 통해 6개월 내 정부가 앤트로픽의 AI 제품 사용을 중단해야 한다고 요구했다. 앤트로픽은 이에 대해 법적 대응에 나섰다.

한편 오픈AI는 지난 2월 28일 국방부가 기밀 환경에서 자사 기술을 사용할 수 있도록 하는 협약을 체결했다고 발표했다. 일론 머스크가 이끄는 AI 기업 xAI 역시 자사 AI 모델 그록의 군 사용 계약을 맺었다.

오픈AI는 국방부와의 협약에 일정한 제한이 포함돼 있다고 밝혔지만, 실제로 이러한 제한이 얼마나 효과적으로 작동할지는 아직 명확하지 않다.

The post [단독] 전장으로 간 생성형 AI…미군, 표적 선정에 ‘챗봇’ 활용하나 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.