수감자 통화 분석 AI, ‘예고된 범죄’ 포착에 나선다

AI 모델이 교정시설 수감자의 통화 데이터를 학습해 범죄가 ‘모의되는 순간’을 포착하도록 설계된 기술이 개발됐다.

미국 교정시설에 통신 서비스를 제공하는 시큐러스 테크놀로지스(Securus Technologies, 이하 ‘시큐러스’)는 수년간 축적해 온 수감자들의 전화와 영상 통화 데이터를 기반으로 AI 모델을 훈련하고 있다. 이를 바탕으로 수감자의 전화와 문자, 이메일을 자동으로 분석해 범죄 징후를 미리 포착하고 사전에 차단하는 파일럿 프로그램도 가동 중이다.

이 회사의 케빈 엘더 사장은 MIT 테크놀로지 리뷰와의 인터뷰에서 “회사는 2023년부터 방대한 녹취 데이터를 활용해 범죄 징후를 포착하는 AI 모델을 개발해 왔다”면서 “텍사스 교정시설 수감자들의 7년 치 통화 기록을 기반으로 구축한 모델을 비롯해 주와 카운티별 특성을 반영한 모델도 추가로 개발하고 있다”고 말했다.

시큐러스는 지난 1년간 이 모델을 적용해 수감자의 대화를 실시간으로 분석하는 시험 운영을 진행하고 있다. 시큐러스가 구체적인 운영 지역은 밝히지 않았지만, 고객 기관에는 재판 전 구금 시설과 교도소, 이민세관단속국(ICE) 산하 구금 시설 등이 포함된다. 엘더 사장은 “방대한 데이터 보관소를 대형언어모델에 적용하면 범죄가 계획되거나 고려되는 순간을 조기에 포착할 수 있어 훨씬 신속한 대응이 가능하다”고 설명했다.

시큐러스의 기존 모니터링 방식과 마찬가지로 구금 시설 조사관은 무작위로 선택된 통화나 범죄 연루가 의심되는 수감자의 대화를 지정해 AI 기능을 적용할 수 있다. 모델은 전화와 영상 통화, 문자 메시지, 이메일을 분석한 뒤 사람이 직접 확인해야 할 부분을 자동으로 표시한다. 이후 담당 요원이 해당 내용을 검토해 시설 조사관에게 전달하고 후속 조사를 진행하는 방식이다.

엘더 사장은 “시큐러스의 모니터링 기술이 교도소 내부에서 조직된 인신매매와 갱단 활동 등 다양한 범죄를 차단하는 데 활용돼 왔으며, 시설 내 금품을 반입하는 직원들을 적발하는 데에도 기여하고 있다”고 설명했다. 다만 시큐러스가 새로 개발한 AI 모델이 실제 어떤 사건을 밝혀냈는지에 대한 구체적인 사례는 제시하지 않았다.

수감자 권리 옹호 비영리단체 워스 라이즈(Worth Rises)의 비앙카 타일릭(Bianca Tylek) 대표는 “수감자와 그들이 연락하는 사람들에게 통화 내용이 녹음된다는 사실이 고지되더라도 그 대화가 AI 모델 학습에 활용될 수 있다는 점까지 알고 있다고 보기 어렵다”고 지적했다.

타일릭 대표는 “수감자들이 가족과 연락할 수 있는 다른 선택지가 사실상 없는 상황이기 때문에 이는 강압적 동의에 해당한다”며 “대다수 주에서 수감자들이 통화 비용을 직접 부담하는 만큼 데이터 사용에 대한 보상은커녕 오히려 돈을 내면서 개인정보를 제공하는 셈”이라고 비판했다.

시큐러스 대변인은 “AI 학습에 활용되는 데이터는 특정 개인을 감시하거나 표적으로 삼기 위한 것이 아니라, 전체 통신 시스템 전반에서 광범위한 패턴과 이상 징후, 불법 행위를 식별하는 데 목적이 있다”고 밝혔다. 이어 “각 교정시설에서 자체적으로 녹음 및 모니터링 정책을 정하면 시큐러스는 그 기준에 따라 운영할 뿐”이라고 설명했다. 다만 수감자가 자신의 녹음 자료가 AI 학습에 사용되는 것을 거부할 수 있는지에 대한 질문에는 직접적인 답변을 피했다.

수감자 인권 단체들은 시큐러스가 과거에도 반복적으로 수감자의 권리를 침해해 왔다고 지적한다. 과거 시큐러스 녹음 데이터베이스가 유출됐을 당시 수천 건의 수감자와 변호인 간 통화가 부적절하게 녹음돼 있었다는 사실이 드러난 바 있다. 코린 켄드릭(Corene Kendrick) 미국시민자유연맹(ACLU) 교도소 프로젝트 부국장은 “새로운 AI 시스템이 등장하면서 훨씬 더 깊숙한 감시가 가능해졌지만 이를 통제할 법원의 제재는 사실상 부재한 상태”라고 지적했다.

켄드릭 부국장은 “수감자의 모든 발언과 생각까지 감시해 범죄를 사전에 막겠다는 발상은 기술이 이미 법적 규제를 한참 앞서 버린 전형적 사례”라고 지적했다. 이에 대해 시큐러스 대변인은 “해당 도구의 목적은 인력 부족 상황에서 모니터링의 효율을 높이기 위한 것이지 아무 이유 없이 개인을 감시하려는 것이 아니다”라고 반박했다.

시큐러스는 최근 규제 당국과의 분쟁에서 승기를 거두면서 수감자 통화료 수익을 AI 도구 개발에 투입할 수 있는 길을 열었다. 시큐러스는 이번 판결로 AI 시스템 구축에 필요한 재원을 보다 안정적으로 마련할 수 있을 것으로 보인다.

미국 연방통신위원회(FCC)는 2024년 수감자 권리 옹호 단체들의 요구를 반영해 통신사들이 통화 녹음과 감시 비용을 수감자에게 전가하는 행위를 금지하는 대대적인 개혁안을 발표했다. 통신사들은 일정 한도 내에서 통화 요금을 부과할 수는 있지만, 보안 관련 비용 대부분은 교도소와 구치소가 자체 예산으로 부담해야 한다는 내용이다.

반발은 즉각적으로 터져 나왔다. 카운티 교도소를 운영하는 다수의 보안관 협회에서는 더 이상 통화 모니터링 비용을 감당하기 어렵다고 주장했고, 14개 주 법무장관은 개혁안이 부당하다며 소송을 제기했다. 일부 교정시설은 수감자의 통화 접근 자체를 축소할 수밖에 없다는 경고까지 내놓았다.

시큐러스는 AI 도구를 구축하고 시험하는 과정에서 FCC와 연이어 회의를 갖고 개혁안이 지나치게 광범위하다고 주장했고, 수감자로부터 거둔 통화료 수익을 다시 보안 비용으로 사용할 수 있도록 허용해 달라며 적극적인 로비를 펼쳤다.

이 개혁안의 시행을 둘러싼 상황은 올해 6월 극적으로 바뀌었다. 도널드 트럼프 대통령이 임명한 브렌던 카(Brendan Carr) FCC 위원장이 “교도소와 구치소의 2024년 개혁안 적용 기한을 연기하겠다”고 발표한 것이다. 그는 더 나아가 “수감자들이 지불하는 통화 수수료를 활용해 통신사들이 AI 기반 감시 시스템을 구축하도록 지원하는 방안을 고려하고 있다”고도 시사했다. 카 위원장은 보도 자료를 통해 “2024년 개혁을 되돌리면 첨단 AI와 머신러닝을 포함한 공공 안전 기술을 더 폭넓게 도입할 수 있을 것”이라고 주장했다.

FCC는 지난 10월 28일 한 단계 더 나아간 결정을 내렸다. 시큐러스와 같은 기업이 통화 녹음과 모니터링 과정에서 발생하는 보안 비용, 즉 녹음 저장과 전사 작업, 이러한 통화를 분석하는 AI 기술 개발 비용 등을 다시 수감자들에게 전가할 수 있도록 허용하고, 동시에 더 높은 통화요금 상한을 승인한 것이다. 

시큐러스 대변인은 MIT 테크놀로지 리뷰에 보내온 답변에서 “시큐러스는 수감자의 부담을 최소화하면서도 필수적인 안전·보안 기술을 확보하는 데 필요한 재원을 마련하기 위해 균형을 맞추고 있다”고 강조했다. 그는 “고도화된 모니터링과 AI 기능을 포함한 이러한 도구는 수감자와 교정 직원의 안전을 지키고 공공을 보호하는 데 핵심적 역할을 한다”고 설명했다.

안나 고메즈(Anna Gomez) FCC 위원은 이번 결정에 반대 의견을 냈다. 그녀는 성명에서 “치안 유지 비용은 법 집행 기관이 부담해야 하며 수감자의 가족에게 전가돼서는 안 된다”고 밝혔다.

FCC는 이번 새 규정이 최종적으로 시행되기 전에 관련 의견을 공식적으로 수렴할 예정이다.

The post 수감자 통화 분석 AI, ‘예고된 범죄’ 포착에 나선다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.