AI가 연 감시 시대…법은 기술 발전 속도를 따라갈 수 있을까

미국 국방부와 AI 기업 간 갈등을 계기로 정부의 대규모 감시 가능성을 둘러싼 논쟁이 확산되고 있다. 전문가들은 현행 법체계가 AI 기술 발전 속도를 따라가지 못하고 있다고 지적한다.

미국 국방부와 인공지능(AI) 기업 앤트로픽 간의 공개적 갈등은 중요한 질문을 던지고 있다. 미국 정부가 미국인을 대상으로 한 대규모 감시를 법적으로 수행할 수 있는지 여부다.

놀랍게도 이 질문에 대한 답은 간단하지 않다. 미국 국가안보국(NSA) 전직 정보요원 에드워드 스노든이 2013년 미국인의 전화 메타데이터를 대량 수집한 사실을 폭로한 지 10년이 넘었지만, 미국 사회는 여전히 일반 시민들이 생각하는 감시의 범위와 법이 실제로 허용하는 범위 사이의 간극을 좁히지 못하고 있다.

앤트로픽과 미국 정부 간 갈등의 발단은 국방부가 이 회사의 AI 모델 ‘클로드’를 활용해 미국인 관련 대량의 상업 데이터를 분석하려 한 데서 비롯됐다. 이에 앤트로픽은 자사 AI가 국내 대규모 감시나 인간의 감독 없이 표적을 공격할 수 있는 자율 살상 무기에 사용되지 않도록 해야 한다는 조건을 제시했다. 그러나 협상은 결국 결렬됐다.

일주일 뒤 국방부는 앤트로픽을 ‘공급망 위험 기업(supply chain risk)’으로 지정했다. 이는 일반적으로 국가 안보에 위협이 될 수 있는 외국 기업에 적용되는 조치다.

한편 챗GPT를 개발한 경쟁사 오픈AI는 국방부와 계약을 체결하며 자사 AI를 ‘모든 합법적 목적(all lawful purposes)’에 사용할 수 있도록 허용했다. 하지만 이 표현이 미국인에 대한 국내 감시 가능성을 열어둔 것 아니냐는 비판이 제기됐다.

논란이 확산되자 많은 이용자들이 챗GPT를 삭제하기 시작했다. 시위대는 샌프란시스코에 있는 오픈AI 본사 주변 바닥에 분필로 “당신들의 레드라인은 무엇인가?”라는 문구를 적으며 항의했다. 레드라인은 넘지 말아야 할 기준을 말한다.

오픈AI는 이후 계약을 재조정해 자사 AI가 국내 감시에 사용되지 않도록 했다고 밝혔다. 또한 NSA와 같은 정보기관들도 자사 서비스를 이용할 수 없도록 했다고 강조했다.

샘 올트먼 오픈AI CEO는 현행법이 국방부의 국내 감시를 금지하고 있으며, 오픈AI 계약서에는 이 법을 명시하면 된다고 주장했다. 그는 소셜미디어 X에 “국방부는 이러한 원칙에 동의하며 이를 법률과 정책에 반영하고 있고, 우리는 이를 계약에 포함했다”고 밝혔다.

반면 다리오 아모데이 앤트로픽 CEO는 다른 견해를 내놓았다. 그는 정책 성명을 통해 “현재 이러한 감시가 합법으로 간주되는 것은 법이 급속히 발전하는 AI 기술의 능력을 아직 따라잡지 못했기 때문일 뿐”이라고 주장했다.

그렇다면 누가 옳을까. 법은 국방부가 AI를 이용해 미국인을 감시하는 것을 실제로 허용하고 있는 것일까.

강화된 감시

답변은 우리가 감시로 간주하는 것이 무엇인지에 달려 있다. 앨런 로젠슈타인(Alan Rozenshtein) 미네소타대 로스쿨 법학 교수는 “일반인들이 수색이나 감시로 여길 만한 많은 것들이 법적으로는 실제로 수색이나 감시로 간주되지 않는다”고 말했다. 이는 소셜미디어 게시물, 감시 카메라 영상, 유권자 등록 기록 같은 공개 정보도 감시 대상이 될 수 있다는 뜻이다. 외국인 감시 과정에서 우연히 수집된 미국인 정보도 마찬가지다.

무엇보다 정부는 기업으로부터 상업적 데이터를 구매할 수 있다는 점에 주목해야 한다. 여기에는 모바일 위치 정보나 웹 브라우징 기록 같은 민감한 개인정보가 포함될 수 있다. 최근 몇 년간 이민세관단속국(ICE)과 국세청(IRS)부터 연방수사국(FBI)과 NSA에 이르기까지 다양한 기관들이 이 데이터 시장을 점점 더 많이 활용하고 있다. 여기에는 광고를 위해 사용자 데이터를 수집하는 인터넷 경제가 큰 역할을 했다. 이러한 데이터는 정부가 영장이나 소환장 없이도 접근할 수 있는 정보를 제공할 수 있다. 민감한 개인 데이터를 확보하려면 일반적으로 영장이나 소환장이 필요하다.

로젠슈타인 교수는 “정부가 미국인에 대해 수집할 수 있는 방대한 양의 정보는 헌법(제4차 수정안)이나 법률로 규제되지 않는다”면서 “정부가 이 모든 데이터로 무엇을 할 수 있는지에 대한 제한도 두지 않고 있다”고 지적했다.

이는 불과 수십 년 전까지만 해도 사람들이 감시의 새로운 가능성을 열 만큼 방대한 데이터를 만들어내지 않았기 때문이다. 부당한 수색과 압수로부터 시민을 보호하는 미국 헌법 제4차 수정조항은 정보 수집이 곧 사람들의 집에 직접 들어가 수색하는 것을 의미하던 시대에 만들어졌다.

1978년 제정된 외국정보감시법(Foreign Intelligence Surveillance Act)이나 1986년 전자통신사생활보호법(Electronic Communications Privacy Act) 같은 후속 법률도 감시가 전화 도청이나 이메일 감청을 중심으로 이뤄지던 시기에 마련됐다. 감시를 규율하는 대부분의 법률은 인터넷이 본격적으로 확산되기 이전에 만들어진 것이다. 당시에는 사람들이 방대한 온라인 데이터 흔적을 남기지 않았고, 정부 역시 이러한 데이터를 분석할 정교한 기술을 갖추지 못했다.

하지만 지금은 상황이 달라졌다. AI는 감시가 수행될 수 있는 방식과 범위를 크게 확대하고 있다. 로젠슈타인 교수는 “AI는 개별적으로는 민감하지 않아 규제 대상이 되지 않는 방대한 정보를 결합해 정부에 이전에는 없던 강력한 권한을 부여할 수 있다”고 말했다.

AI는 흩어진 정보 조각들을 모아 패턴을 찾아내고 추론을 도출하며 개인에 대한 상세한 프로필을 대규모로 구축할 수 있다. 그리고 정부가 해당 정보를 합법적으로 수집한 것이라면 이를 AI 시스템에 입력하는 것을 포함해 원하는 방식으로 활용할 수 있다. 로젠슈타인 교수는 “법은 아직 기술적 현실을 따라잡지 못하고 있다”고 지적했다.

감시는 심각한 사생활 침해 우려를 불러일으킬 수 있지만, 국방부가 미국인 데이터를 수집하고 분석하는 데에는 국가 안보상 정당한 필요성이 있을 수 있다. 로렌 보스 전 국방부 군사정보관은 “미국인 정보를 수집하려면 아주 제한적인 임무에 한해 허용돼야 한다”고 말했다.

예를 들어, 방첩 임무의 경우 외국을 위해 일하거나 국제 테러 활동을 계획하는 미국인에 대한 정보가 필요할 수 있다. 하지만 특정 대상을 겨냥한 정보 수집도 때로는 더 광범위한 데이터 수집으로 확대될 수 있다. 보스 전 군사정보관은 “이런 종류의 정보 수집은 사람들에게 불안감을 줄 수 있다”고 덧붙였다.

합법적 사용

오픈AI는 관련 법률에 맞춰 자사 AI 시스템이 미국인에 대한 국내 감시에 의도적으로 사용되지 않도록 계약 조항을 수정했다. 수정된 조항에는 “자사 AI 시스템은 미국인에 대한 국내 감시에 의도적으로 사용돼서는 안 된다”는 내용이 포함됐다. 또한 상업적으로 취득한 개인 정보나 식별 가능한 정보를 조달하거나 사용하는 방식으로 미국인을 고의적으로 추적·감시·모니터링하는 행위를 금지한다는 점도 명시했다.

그러나 추가된 조항이 국방부가 오픈AI의 AI 시스템을 ‘모든 합법적 목적’에 사용할 수 있도록 한 기존 조항의 효력을 제한하기에는 충분하지 않을 수 있다는 지적도 나온다. 이는 민감한 개인정보의 수집과 분석도 포함될 수 있기 때문이다.

제시카 틸립먼(Jessica Tillipman) 조지워싱턴대 로스쿨 교수는 “오픈AI가 계약서에 어떤 문구를 넣더라도 국방부는 자신들이 합법적이라고 판단하는 방식으로 기술을 사용할 것”이라며 “여기에는 국내 감시도 포함될 수 있다”고 말했다. 그는 또 “대부분의 경우 기업들은 국방부의 행동을 막기 어려울 것”이라고 덧붙였다.

추가된 조항은 ‘의도치 않은(inadvertent)’ 감시나 미국 내에 거주하는 외국인 또는 미등록 이민자에 대한 감시 문제와 관련해서도 의문을 남긴다. 틸립먼 교수는 “법이 무엇인지에 대해 의견이 엇갈리거나 법이 바뀌면 어떻게 되는가”라고 지적했다.

오픈AI는 본지의 취재 요청에 응하지 않았다. 회사는 새 계약서의 전문도 공개하지 않았다.

계약 외에도 오픈AI는 감시에 대한 ‘레드라인’을 적용하기 위해 기술적 안전장치를 도입할 것이라고 밝혔다. 여기에는 금지된 사용을 모니터링하고 차단하는 ‘안전 시스템’이 포함된다. 회사는 또한 자체 직원을 파견해 국방부와 협력하고 AI 운용 과정에 지속적으로 관여할 것이라고 덧붙였다.

그러나 이러한 안전장치가 국방부의 AI 사용을 실제로 얼마나 제한할 수 있을지, 또 오픈AI 직원들이 AI 시스템 사용 방식을 어느 정도까지 파악할 수 있을지는 불분명하다. 더 중요한 점은 계약이 오픈AI에 기술의 합법적 사용까지 차단할 권한을 부여하는지 여부다.

하지만 이것이 반드시 나쁜 일인 건 아닐 수도 있다. 정부 작전 도중 AI 기업이 자사 기술 사용을 중단할 권한을 갖는 것 역시 또 다른 위험을 수반할 수 있어서다. 보스 전 군사정보관은 “미군이 국가 안보를 보호하기 위해 합법적으로 조치를 취해야 하는 상황에서 민간 기업이 기술을 차단하는 상황은 바람직하지 않다”고 말했다. 다만 그는 “그렇다고 해서 의회가 명확한 기준을 마련해서는 안 된다는 뜻은 아니다”라고 덧붙였다.

이러한 문제들은 결코 단순하지 않다. 사생활 보호와 국가 안보 사이에서 매우 어려운 선택을 요구하기 때문이다. 그렇기 때문에 이 문제는 행정부와 소수의 AI 기업 간 비공개 협상이 아니라 국민적 논의를 통해 결정돼야 할 사안일지도 모른다. 현재 군사용 AI는 입법이 아니라 계약을 통해 규제되고 있다.

일부 의원들도 의견을 내기 시작했다. 론 와이든(Ron Wyden) 오리건주 민주당 상원의원은 대량 감시 문제를 다루는 법안에 대해 초당적 지지를 모색할 예정이다. 그는 정부의 상업적 데이터 구매를 제한하는 법안을 지속적으로 추진해 왔으며, 그중에는 2021년 처음 발의됐지만 아직 통과되지 않은 ‘제4차 수정헌법은 판매 대상이 아니다 법안(Fourth Amendment Is Not For Sale Act)’도 포함된다. 그는 최근 성명에서 “해당 데이터를 기반으로 미국인들에 대해 AI로 프로필을 만드는 것은 허용돼서는 안 될 대량 감시의 심각한 확대”라고 밝혔다.

오픈AI와 국방부의 ‘위험한 타협’… 앤트로픽의 우려가 현실로

The post AI가 연 감시 시대…법은 기술 발전 속도를 따라갈 수 있을까 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.