이란 전장에 들어온 오픈AI 기술…어디까지 쓰일까
오픈A가 미국 국방부와 협력하며 생성형 AI가 실제 전장 의사결정과 방어 시스템에 활용되는 시대가 열리고 있다. 하지만 자율무기·감시 활용 범위를 둘러싼 논란과 규제 공백은 여전히 핵심 쟁점으로 남아 있다.
오픈AI가 미 국방부와 손잡고 전장에 한 발 더 다가섰다. 몇 주 전 체결된 협정에 따라 오픈AI의 모델은 이제 기밀 환경에서도 사용할 수 있게 됐다. 그러나 이 합의가 실제로 어디까지 허용하는지는 여전히 베일에 가려져 있다.
샘 올트먼 오픈AI 최고경영자(CEO)는 자사 기술이 자율 무기 개발에 쓰이지 않을 것이라고 선을 그었지만, 협정은 이를 별도로 제한하기보다 미군의 기존 무기 운용 지침에 따르도록 하는 데 그친다. 문제는 그 지침 자체가 상당히 느슨하다는 점이다. ‘국내 감시에 사용하지 않겠다’는 약속 역시 실제로 얼마나 지켜질 수 있을지에 대해 회의적인 시각이 나오고 있다.
오픈AI가 왜 이런 결정을 내렸는지도 분명하지 않다. 과거 군 계약에 참여하지 않겠다고 공언했던 기술 기업들이 결국 국방 프로젝트에 뛰어든 사례는 적지 않지만, 오픈AI의 전환 속도는 유독 빠르다. 막대한 학습 비용을 감당해야 하는 상황에서 새로운 수익원을 확보하려는 판단일 수 있다. 혹은 올트먼이 그동안 강조해 온 정치적 판단에 따른 결정일 수도 있다. 자유민주주의 국가와 그 군대가 중국과 경쟁하려면 가장 강력한 AI 기술을 확보해야 한다는 논리다.
더 중요한 문제는 이제부터다. 미군이 이란에 대한 공습을 확대하는 국면에서 오픈AI는 사실상 전장의 중심으로 들어왔다. 이번 충돌에서 AI의 존재감이 어느 때보다 커지고 있는 가운데 오픈AI의 기술이 실제 전장에서 어떤 방식으로 사용될지, 그리고 그 활용 범위를 어디까지 허용할 것인지는 앞으로 중요한 논쟁거리가 될 전망이다.
공격 목표와 타격 결정
오픈AI와 미 국방부의 계약은 이미 체결됐지만 오픈AI의 기술이 언제 기밀 환경에서 실제로 활용될 수 있을지는 아직 불확실하다. 군이 사용하는 기존 시스템과 통합하는 과정이 필요하기 때문이다. 최근 국방부와 별도로 계약을 맺은 일론 머스크의 xAI 역시 자사 AI 모델 ‘그록(Grok)’을 군 시스템에 연동하는 유사한 절차를 거칠 것으로 보인다.
다만 이러한 통합을 서둘러야 한다는 압박도 크다. 지금까지 군이 사용해 온 AI 기술을 둘러싼 논란 때문이다. 앤트로픽이 자사 AI의 ‘모든 합법적 사용’을 허용하라는 요구를 거부하자 도널드 트럼프 대통령은 군에 해당 기술 사용 중단을 지시했고, 이후 국방부는 앤트로픽을 ‘공급망 위험’ 기업으로 지정했다. 앤트로픽은 이에 반발해 법적 대응에 나선 상태다.
그렇다면 오픈AI의 기술은 실제로 어디에 쓰일 수 있을까. 한 국방 당국자의 설명에 따르면 활용 방식은 비교적 구체적이다. 분석관이 잠재적 공격 목표 목록을 AI에 입력하면 모델이 이를 분석해 타격 우선순위를 제시하는 식이다. 이 과정에서 특정 항공기나 군수 물자의 위치 같은 물류 정보까지 함께 고려할 수 있다. 텍스트와 이미지, 영상 등 다양한 형태의 정보를 동시에 처리하는 것도 가능하다. 다만 최종 판단은 사람이 다시 검토해야 한다. 하지만 이 경우 공격 목표 선정과 타격 결정 속도를 얼마나 실제로 단축할 수 있을지는 의문이 남는다.
군은 이미 수년 전부터 ‘메이븐(Maven)’이라는 AI 시스템을 통해 드론 영상을 분석하고 잠재적 목표를 식별해 왔다. 오픈AI나 앤트로픽의 생성형 AI는 여기에 대화형 인터페이스를 더하는 역할을 맡을 가능성이 크다. 사용자가 분석 결과를 질문하거나 어떤 목표를 먼저 공격해야 할지에 대한 권고를 받는 방식이다.
이 변화는 그만큼 새로운 국면이다. 군은 그동안 방대한 데이터를 분석하는 데 AI를 활용해 왔지만, 전장에서의 전략에 생성형 AI의 판단을 반영하려는 시도는 이번 이란 분쟁에서 처음 본격적으로 이뤄지고 있다.
드론 방어 시스템
오픈AI는 2024년 말 군사용 드론과 대드론 기술을 개발하는 안두릴(Anduril)과 협력에 나섰다. 양사는 미군을 공격하는 드론을 실시간에 가깝게 분석하고 이를 무력화하는 데 AI를 활용하겠다고 밝혔다. 당시 오픈AI는 이 계약이 ‘타인에게 해를 가하는 시스템’을 금지하는 자사 정책에 어긋나는 것 아니냐는 지적에 대해, 해당 기술이 사람이 아니라 드론을 대상으로 한다는 점을 들어 문제가 없다는 입장을 밝혔다.
안두릴은 전 세계 군 기지에 대드론 방어 시스템을 공급하고 있지만 이란 인근 배치 여부에 대해서는 밝히지 않고 있다. 두 회사 역시 협력 이후 구체적인 진행 상황은 공개하지 않았다. 다만 안두릴은 그동안 카메라 영상과 센서 데이터를 분석해 위협을 식별하는 AI 모델을 개발해 왔다. 반면 병사들이 시스템에 직접 질의를 하거나 자연어로 판단을 전달받는 대화형 AI는 상대적으로 비중이 작았다. 이 지점에서 오픈AI 기술이 결합될 여지가 크다.
현장의 위험도는 점점 커지고 있다. 지난 3월 1일 쿠웨이트에서는 이란의 드론 공격이 미군 방공망에 포착되지 못해 미군 6명이 숨지는 사건이 발생했다.
안두릴의 통합 인터페이스 ‘래티스(Lattice)’는 드론 방어를 비롯해 미사일과 자율 잠수정까지 통합 운용할 수 있도록 설계된 플랫폼이다. 안두릴은 최근 미 육군과 약 200억 달러(약 30조 원) 규모의 계약을 체결해 기존 군 장비에 자사 시스템을 연동하고 AI를 결합하는 작업을 확대하고 있다. 오픈AI 모델의 활용성이 입증될 경우 래티스를 통해 전반적인 전투 체계에 빠르게 적용될 것으로 예상된다.
전장 후미진 곳까지 파고든 AI
피트 헤그세스 미 국방장관은 지난해 12월 군 내 계약, 물류, 조달 등 행정 업무를 맡고 있는 수백만 명의 인력에 새로운 AI 도구 ‘GenAI.mil’의 사용을 적극 권장하기 시작했다. 이 플랫폼은 보안 환경에서 상용 AI 모델에 접근해 민간 기업과 유사한 방식으로 활용할 수 있도록 설계됐다.
먼저 구글의 제미나이가 처음으로 도입됐고, 이어 올해 1월에는 국방부가 xAI의 그록도 포함될 예정이라고 발표했다. 해당 모델은 반유대주의 콘텐츠를 생성하고 비동의 딥페이크 제작으로 논란이 있었지만 도입은 예정대로 추진됐다. 오픈AI도 2월 합류해 정책 문서와 계약서 작성, 임무 관련 행정 지원에 자사 모델을 활용할 계획이다.
이 플랫폼에서 챗GPT를 활용하는 인력이 이란 관련 민감한 의사결정에 직접 관여할 가능성은 크지 않다. 그러나 오픈AI의 참여는 다른 의미에서 중요하다. 국방부 전반에 걸쳐 AI 도입을 밀어붙이고 있는 헤그세스 장관의 기조를 상징적으로 보여주기 때문이다. 다만 현장에서는 활용 방식이 아직 뚜렷하게 정리되지 않은 상황이다.
그럼에도 방향은 분명하다. AI는 공격 목표 선정 같은 핵심 작전부터 행정 문서 처리에 이르기까지 미군의 전반적인 전쟁 수행 방식을 바꾸고 있다. 그리고 그 흐름 속에서 오픈AI는 점점 더 큰 역할을 차지하고 있다.
The post 이란 전장에 들어온 오픈AI 기술…어디까지 쓰일까 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.