‘규제 무풍지대’ 속 확산되는 AI 추적 기술 ‘트랙’
AI 기술을 활용한 추적 도구 '트랙'이 안면 인식 기술 규제를 피해 다양한 공공 기관에 도입되고 있다. 하지만 이를 두고 정부와 경찰의 감시 강화와 권력 남용을 둘러싼 우려가 커지고 있다.
미 경찰과 연방 기관들이 안면 인식 기술에 대한 규제를 피하기 위해 AI 기술을 활용한 새로운 방법을 도입하면서 논란이 커지고 있다. 이 기술은 체격, 성별, 머리 색과 스타일, 옷차림, 액세서리 등의 외형적 특징을 바탕으로 특정 인물을 추적할 수 있다.
‘트랙(Track)’이라는 이름의 이 도구는 동영상 분석 회사인 베리톤(Veritone)이 개발했으며, 현재 미국 전역의 주 및 지방 경찰서, 대학 등 400여 곳의 고객이 사용하고 있다. 최근에는 연방정부 차원에서도 도입이 확대되고 있으며, 미 법무부(DOJ) 소속 연방 검사들은 2023년 8월부터 범죄 수사에 트랙을 활용하기 시작했다. 베리톤은 트랙 외에도 국토안보부(DHS)와 국방부(DOD) 등 주요 기관에서 자사의 실제 안면 인식 기술을 포함한 다양한 AI 도구들을 사용하고 있다고 밝혔다.
라이언 스틸버그(Ryan Steelberg) 베리톤 CEO는 트랙의 개발 취지가 “안면 인식을 사용할 수 없는 상황에서 어떻게 범죄자나 악의적인 행위를 저지른 사람들을 추적할 수 있을까”라는 고민에서 출발했다고 밝혔다. 그는 “트랙을 이용하면 안면 인식이 법적으로 허용되지 않는 상황뿐 아니라, 얼굴이 가려져 있거나 카메라에 잘 보이지 않을 때도 개인을 추적할 수 있다”고 설명했다.
한편 미국시민자유연맹(ACLU)은 MIT 테크놀로지 리뷰의 보도를 통해 트랙의 존재를 알게 된 후, 이 기술이 미국 내에서 비생체 기반 추적 시스템이 광범위하게 사용된 첫 사례라며 우려를 나타냈다. ACLU는 트랙이 안면 인식 기술과 유사한 사생활 침해 문제를 일으킬 수 있으며, 트럼프 행정부가 시위자, 이민자, 학생들에 대한 감시를 강화하고 있는 상황에서 또다른 우려를 낳을 수 있다고 경고했다.
베리톤은 트랙의 실제 작동 방식을 시연하면서, 2021년 1월 6일 발생한 미국 의회 난입 사건부터 지하철역 장면까지 다양한 환경에서 촬영된 영상을 분석해 보였다. 사용자는 사람의 체격, 성별, 머리 색과 스타일, 신발, 옷차림, 액세서리 등 여러 외형적 특징을 입력해 특정 인물을 찾아낼 수 있다. 트랙은 이 정보를 바탕으로 서로 다른 장소나 영상 속에서 동일 인물을 추적한 뒤, 해당 데이터를 시간대별로 정리한다. 이 도구는 아마존과 마이크로소프트의 클라우드 플랫폼을 통해 접속할 수 있다.
인터뷰에서 스틸버그는 트랙이 분석에 사용하는 특징의 수가 앞으로 계속 늘어날 것이라고 말했다. 트랙이 피부색을 기준으로 사람을 구별하느냐는 질문에 대해 베리톤 측 대변인은 “피부색은 알고리즘이 사람을 식별할 때 사용하는 특징 중 하나이지만, 현재 사용자가 피부색을 기준으로 검색할 수 있는 기능은 제공되지 않는다”고 밝혔다. 현재 트랙은 녹화된 영상에서만 작동하지만, 스틸버그는 향후 1년 이내에 실시간 영상 피드에서도 트랙을 사용할 수 있을 것으로 전망했다.
트랙을 사용하는 기관들은 경찰의 요청에 따라 보디캠, 드론, 유튜브 영상이나 일반 시민이 업로드한 영상(예: 가정용 보안 카메라나 휴대전화 영상)도 추가로 활용할 수 있다.
스틸버그는 “우리는 이 도구를 ‘제이슨 본(첩보 액션 영화 시리즈의 주인공) 앱’이라고 부르고 싶다”고 말했다. 그는 이 기술이 향후 법정에서 논란이 될 수 있음을 예상하면서도, “경찰이 범인을 찾는 데 도움이 되는 만큼, 무고한 사람의 누명을 벗기는 데에도 기여하길 바란다”고 밝혔다. 현재 베리톤의 고객 중 공공 부문이 차지하는 비중은 6%에 불과하다(대부분은 미디어 및 엔터테인먼트 기업이다). 그러나 회사 측은 이 시장이 매우 빠르게 성장하고 있으며, 캘리포니아, 워싱턴, 콜로라도, 뉴저지, 일리노이 등 여러 지역에서 고객을 확보하고 있다고 설명했다.
트랙의 도입이 빠르게 확산되면서, 일각에서는 우려의 목소리도 나오고 있다. 제이 스탠리(Jay Stanley) ACLU 선임 정책분석가는 2019년에 이미 “AI 기술이 언젠가 범죄 발생 여부와 관계없이 방대한 감시 영상을 자동으로 분석해 내는 시대가 올 것”이라고 경고한 바 있다. 이후 많은 경찰 기술 기업들이 특정 구역 출입 여부 등을 감지하는 영상 분석 시스템을 개발해 왔다. 하지만 스탠리에 따르면 “트랙은 특정 인물을 광범위하게 추적하는 기술을 실제로 구현해 낸 최초의 제품”이다.
그는 “이 기술은 잠재적으로 권위주의적인 성격을 지닌 기술”이라며 “경찰과 정부가 범죄 수사에 더 많은 권한을 갖게 되는 만큼, 이 기술을 과도하게 사용하거나 남용할 우려도 커질 수 있다”고 지적했다.
스탠리는 “특히 베리톤이 고객으로 둔 연방 기관들에서 이러한 과도한 감시가 발생할 가능성이 매우 높다”고 덧붙였다. 실제로 국토안보부는 지난달 이민자의 소셜미디어 활동을 모니터링하고, 그 내용을 비자나 영주권 발급 거부의 근거로 활용하겠다고 발표했다. 또한 이민세관단속국(ICE)은 친팔레스타인 발언을 하거나 시위에 참석한 활동가들을 구금하기도 했다.
존 가섹(Jon Gacek) 베리톤 공공부문 사업 총책임자는 인터뷰에서 “트랙은 중요한 영상을 빠르게 찾아내기 위한 ‘선별 도구’일 뿐, 일반적인 감시 시스템은 아니다”라고 해명했다. 하지만 베리톤은 국토안보부나 기타 연방 기관 내에서 어떤 부서가 트랙을 사용하는지 구체적으로 밝히지 않았다. 국방부, 법무부, 국토안보부 역시 취재 요청에 응하지 않았다.
경찰이 트랙을 활용할 경우, 수사에 이용할 수 있는 영상 자료의 양이 획기적으로 늘어난다. 안면 인식 기술은 얼굴이 선명하게 촬영된 영상에서만 사용할 수 있지만, 트랙은 이러한 제약이 없다. 이에 대해 네이선 웨슬러(Nathan Wessler) ACLU 변호사는 “경찰이 이전에는 관심을 두지 않았던 영상들까지 분석하게 될 가능성이 크다”고 지적했다.
웨슬러는 “이 기술은 인류 역사상 전례가 없을 정도로, 사생활 침해의 규모와 성격을 근본적으로 심화시키는 완전히 새로운 차원의 기술이다”라며, “단순히 경찰의 수사 속도를 높이는 것을 넘어, 지금까지 어떤 경찰도 갖지 못했던 능력을 부여하는 기술”이라고 평가했다.
알고리즘의 판단에 대한 과신으로 인한 오인 체포 사례가 늘면서 안면 인식 기술을 제한하는 법률이 각지에서 제정되는 가운데, 트랙은 빠르게 확산되고 있다. 비백인 얼굴에 대한 인식 정확도가 떨어진다는 수많은 연구 결과 역시 이러한 규제 움직임에 힘을 실었다. 몬태나주와 메인주는 실시간 영상에서 안면 인식 기술의 사용을 법적으로 금지하는 등 적용 범위를 엄격히 제한하고 있으며, 샌프란시스코와 오클랜드는 안면 인식 기술의 사용을 사실상 전면 금지하고 있다. 트랙은 이러한 상황에서 새로운 대안으로 주목받고 있다.
또한 웨슬러는 “이러한 법에서 ‘생체정보’라는 표현이 자주 등장하지만, 사실 그 정의는 매우 모호하다”고 비판했다. 생체정보는 일반적으로 얼굴, 걸음걸이, 지문처럼 변하지 않는 특징을 의미하며, 옷차림처럼 가변적인 요소는 포함하지 않는다. 하지만 체격과 같은 일부 특징은 이러한 구분을 모호하게 만들 수 있다.
웨슬러는 “예를 들어, 겨울철에 같은 부츠와 코트, 백팩을 자주 착용하는 사람을 생각해보라”며 “이 경우 해당 인물의 외형적 특징은 날마다 거의 동일하게 나타난다”고 말했다. 이어서 그는 “이처럼 저장된 다수의 영상 피드를 통해 사람의 이동 경로를 기반으로 장기간 추적하는 기능은 실제로 안면 인식 기술과 크게 다르지 않다”고 설명했다.
즉, 트랙은 안면 인식과 매우 유사한 우려를 야기할 수 있는 추적 수단을 제공할 수 있지만, 기술적으로 생체정보를 활용하지 않기 때문에 안면 인식 기술의 사용을 제한하는 법률의 적용을 받지 않는다. 스틸버그는 현재 트랙을 통해 확보된 영상이 증거로 활용되고 있는 사건이 몇 건 진행 중이나, 구체적인 사건명을 밝히거나 상세히 언급하는 것은 어렵다고 밝혔다. 따라서 현재 안면 인식 기술이 금지된 관할권에서 이 증거가 채택되고 있는지는 확인하기 어렵다.
The post ‘규제 무풍지대’ 속 확산되는 AI 추적 기술 ‘트랙’ appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.