왜 챗봇은 사용자의 연령을 확인하기 시작했을까?

기술 기업들은 사용자가 아동인지 어떻게 확인할까? 이 질문은 최근 아동이 AI 챗봇과 대화할 때 발생할 수 있는 위험에 대한 우려가 커지면서 새롭게 주목받고 있다. 수년간 빅테크 기업들은 아동 […]

기술 기업들은 사용자가 아동인지 어떻게 확인할까?

이 질문은 최근 아동이 AI 챗봇과 대화할 때 발생할 수 있는 위험에 대한 우려가 커지면서 새롭게 주목받고 있다. 수년간 빅테크 기업들은 아동 개인정보 보호법을 위반하지 않기 위해 사용자에게 생년월일을 입력하도록 요구해 왔지만(사실 생년월일은 얼마든지 꾸며낼 수 있었다), 사용자의 연령에 맞춰 콘텐츠를 조정해야 할 의무는 없었다. 그러나 최근 두 가지 움직임은 미국에서 상황이 얼마나 빠르게 바뀌고 있는지, 그리고 이 문제가 부모와 아동 안전 옹호 단체를 비롯한 모두에게 어떤 식으로 새로운 쟁점이 되고 있는지 보여준다.

한쪽에는 미국 공화당이 있다. 공화당은 성인 콘텐츠를 제공하는 사이트에 사용자 연령 확인을 의무화하는 법안을 여러 주에서 통과시키는 데 힘을 실어 왔다. 이를 비판하는 사람들은 해당 법안이 ‘미성년자에게 해롭다’고 판단되는 모든 것을 차단하는 명분으로 악용될 수 있으며, 여기에는 성교육까지 포함될 수 있다고 지적한다. 그 반대편에는 캘리포니아와 같은 주들이 있다. 이들은 챗봇과 대화하는 아동을 보호하기 위해(사용자가 미성년자인지를 기업이 확인하도록 요구하는 방식으로) AI 기업을 겨냥한 법안을 추진하고 있다. 한편, 트럼프 대통령은 AI 규제를 각 주에서 제각각 마련하도록 두기보다는 국가 차원의 이슈로 유지하고자 한다. 연방의회에서는 관련 법안에 대한 지지가 수시로 바뀌고 있다.

그렇다면 앞으로 어떻게 될까? 논점은 ‘연령 확인이 필요한가?’에서 ‘누가 그 책임을 질 것인가?’로 빠르게 이동하고 있다. 그리고 이 책임은 어느 기업도 떠안고 싶어 하지 않는다.

오픈AI는 지난 1월 20일 공개한 블로그 글을 통해 “자동 연령 예측 기능을 도입할 계획”이라고 밝혔다. 간단히 말해 오픈AI는 대화 시간대 같은 요소를 포함한 여러 신호를 활용해 AI와 채팅 중인 사용자가 18세 미만인지 예측하는 모델을 적용할 예정이다. 사용자가 청소년이나 아동으로 분류된 경우 챗GPT는 노골적인 폭력이나 성적 역할극 같은 콘텐츠에 대한 ‘노출을 줄이는’ 필터를 적용한다. 유튜브도 지난해 비슷한 기능을 도입했다.

연령 확인은 지지하지만 개인정보 보호에 관한 측면이 걱정된다면 이는 반가운 소식처럼 들릴 수 있다. 그러나 함정이 있다. 이 시스템은 완벽하지 않기 때문에 미성년자를 성인으로, 또는 성인을 미성년자로 잘못 분류할 수 있다. 18세 미만으로 잘못 분류된 사람은 페르소나(Persona)라는 회사에 직접 찍은 본인 사진, 즉 ‘셀카’나 정부 발급 신분증을 제출해 신원을 확인받을 수 있다.

본인 사진 인증에는 문제점이 있다. 유색 인종이나 특정 장애가 있는 사람의 경우 실패율이 더 높다는 점이다. 사이버불링 연구소(Cyberbullying Research Center)를 공동으로 이끌고 있는 사미르 힌두자(Sameer Hinduja) 소장은 “페르소나가 수백만 건의 정부 발급 신분증과 대규모 생체 인식 데이터를 보관해야 한다는 점 또한 취약점”이라면서 “해당 데이터가 유출되면 엄청난 규모의 개인정보가 한꺼번에 노출된다”고 지적했다.

힌두자 소장은 페르소나를 통해 신분 확인을 받는 방법 대신 기기 단위의 인증 방식을 옹호한다. 이는 부모가 아동의 휴대전화를 처음 설정할 때 아동의 나이를 지정하는 방식이다. 그러면 해당 정보가 기기에 저장된 뒤 앱과 웹사이트에 안전하게 공유된다.

이는 최근 애플의 팀 쿡(Tim Cook) CEO가 미 의회에 촉구한 방향과도 대체로 일치한다. 쿡 CEO는 앱스토어에서 연령 확인을 의무화하려는 의원들에게 반대하며 로비에 나섰는데, 그런 규정이 도입되면 애플이 막대한 법적 책임을 떠안게 되기 때문이다.

이 사안이 어디로 향하고 있는지를 보여줄 또 다른 신호는 1월 28일에 확인할 수 있을 것이다. 연령 확인에 관한 새로운 법 집행을 맡게 될 미국 연방거래위원회(FTC)가 하루 종일 이와 관련해 워크숍을 열기 때문이다. 워크숍에는 애플의 닉 로시(Nick Rossi) 정부 담당 책임자가 참석하며, 구글과 메타의 아동 안전 분야 고위 인사들, 아동 대상 마케팅 전문 기업 관계자도 함께한다.

FTC는 트럼프 대통령 집권 이후 점점 더 정치화됐다(유일한 민주당 소속 위원을 해임한 트럼프 대통령의 결정은 연방법원에서 위법 판결을 받았고, 현재 미 연방대법원의 심리를 앞두고 있다). 필자는 지난해 7월 FTC가 AI 기업에 대한 입장을 완화하는 신호를 보이고 있다는 기사를 작성한 바 있다. 실제로 지난 12월 FTC는 가짜 상품 후기가 인터넷에 범람하도록 방치한 AI 기업을 제재했던 바이든 행정부 시절의 결정을 뒤집으며, 해당 결정이 트럼프 대통령의 ‘AI 행동계획(AI Action Plan)’과 충돌한다고 밝히기도 했다.

1월 28일에 예정된 FTC의 워크숍은 연령 확인 문제에 관한 FTC의 접근 방식이 얼마나 당파적인지를 가늠할 단서를 제공할지도 모른다. 위에서 언급했듯이 공화당 우세 주들은 음란물 사이트에 연령 확인을 의무화하는 법을 선호한다(이를 비판하는 사람들은 그런 법이 훨씬 광범위한 콘텐츠를 차단하는 데 악용될 수 있다고 경고한다). 이번 FTC 회의에서는 사우스다코타주에서 그런 법안을 추진하고 있는 베서니 소이(Bethany Soye) 공화당 소속 주 하원의원도 발언할 예정이다. 미국 시민자유연맹(ACLU)은 웹사이트 방문 시 신분증을 요구하는 법에 전반적으로 반대하며, 부모의 통제 기능을 더욱 확대해야 한다고 주장해 왔다.

이런 논쟁이 이어지는 동안 AI는 아동 안전의 세계를 뒤흔들어 놓고 있다. 아동을 대상으로 하는 성적 학대 콘텐츠의 생성이 증가하고 있고, 챗봇과의 대화 이후 발생한 자살과 자해에 대한 우려(및 소송)가 이어지고 있으며, 아동이 AI 동반자에게 정서적 애착을 형성한다는 불안한 증거까지 등장하고 있다. 개인정보 보호, 정치, 표현의 자유, 감시 등에 대한 입장이 상충하면서 해법을 찾는 모든 시도가 앞으로 더 복잡해질 것으로 보인다.

The post 왜 챗봇은 사용자의 연령을 확인하기 시작했을까? appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.