[미국|사회] 10만 명이 넘는 여성의 가짜 누드 사진이 유포됐다

10만 명이 넘는 여성들의 SNS 사진이 가짜 누드 사진으로 만들어져 온라인에 유포됐다는 보고서가 나왔다.

사진의 여성들이 본래 입고 있던 옷들은 인공지능으로 삭제됐고 메신저 앱 텔레그램을 통해 유포됐다.

보안기업 센시티의 보고서는 피해 여성의 일부는 “미성년자로 보인다”고 말했다.

센시티는 사진 위조에 ‘딥페이크 봇’이 사용됐다고 주장한다.

• 인공지능 포르노: 왜 위험한가

• ‘얼굴 바꾸기 앱’ 범죄 악용 우려

딥페이크란 실제 사진들을 사용해 컴퓨터가 생성하는 사진과 영상을 가리킨다. 종종 유명인이 등장하는 가짜 포르노 여상을 만드는 데 사용되곤 한다.

그러나 조르지오 패트리니 센시티CEO는 일반인의 사진을 사용하는 것은 상대적으로 새로운 현상이라며 “SNS 계정에 공개 사진을 올려놓는 것만으로도 목표물이 되기 충분하다”고 경고했다.

텔레그램 봇

문제의 인공지능 봇은 텔레그램의 비밀 채널에 존재한다. 사용자들이 여성의 사진을 보내면 봇은 몇 분 내로 옷을 제거한 사진을 무료로 생성한다.

BBC는 대상자의 동의를 구한 후 여러 장의 사진을 가지고 이 봇을 테스트했다. 어떤 결과물도 완전히 사실적이진 않았다. BBC가 사용한 한 여성의 사진에서는 횡경막 쪽에 배꼽이 달린 결과물이 나왔다.

비슷한 기능의 앱이 작년 사용이 중지된 일이 있었으나 해킹된 버전의 앱이 여전히 유통되고 있는 것으로 여겨진다.

이 텔레그램 채널을 운영하는 사람(‘P’라는 이름이 그에 대한 정보의 전부였다)은 “난 별로 신경쓰지 않는다. 그냥 재미로 하는 거고 어떤 폭력도 없다. 사진의 퀄리티가 비현실적이라 누군가가 이를 가지고 협박용으로 쓰지도 않을 것”이라고 말했다.

그는 또한 “미성년자의 사진을 쓰는 사용자는 영구적으로 차단한다”고 말했다.

그러나 조작된 사진을 다른 곳에 공유할 것인지의 여부는 봇을 사용하는 사람에게 달린 문제라고 그는 말했다.

텔레그램 측은 BBC의 질의에 응답하지 않았다.

‘소아성애적 컨텐츠’

센시티는 2019년 7월부터 2020년 7월 사이에 약 10만4852명의 여성이 가짜 누드 사진의 표적이 됐다고 보고했다.

조사 결과 몇몇 사진에 나오는 여성은 미성년자로 보였다면서 보고서는 “일부 사용자가 봇을 사용해 소아성애적 컨텐츠를 만드는 데 쓴 것으로 보인다”고 말했다.

센시티는 문제의 봇이 러시아의 유명 SNS인 VK에 많은 광고를 했으며 조사 결과 상당수 사용자들이 러시아와 구소련 소속 국가 출신이었다고 한다.

VK는 “그러한 컨텐츠나 링크를 자사 플랫폼에 공유하는 걸 용인하지 않으며 이를 배포하는 커뮤니티는 즉각 폐쇄한다”고 말했다.

텔레그램은 올해 초 러시아에서 공식적으로 사용금지가 됐다.

센시티의 조르지오 패트리니는 “많은 딥페이크 웹사이트나 앱들은 공개적으로 운영되고 있다. 완전히 금지되지 않았기 때문”이라며 “앞으로 상황이 더욱 악화될 것으로 우려된다”고 말했다.

센시티의 보고서는 자신들이 발견한 모든 것들을 텔레그램, VK, 그리고 사법기관에 공유했으나 아직까지 응답을 받지 못했다고 한다.

딥페이크에 관한 책을 쓴 니나 쉭은 딥페이크 제작자들이 전세계에 퍼져 있고 사법기구는 딥페이크 기술을 따라잡는 데 애를 먹고 있다고 말했다.

쉭은 “딥페이크가 보다 정교해지는 건 시간문제다. 딥페이크 포르노 영상의 수는 매 6개월마다 두 배로 늘어나는 것 같다”며 “우리 사법체계는 이런 문제에 적합하지 않다. 급격한 기술 발달로 사회는 우리 상상보다 훨씬 빨리 변하고 있으며 아직까지 우리 사회는 이를 어떻게 규제할지에 대해 결정을 내리지 못했다”고 말했다.

미국 버지니아 주는 작년 처음으로 딥페이크를 법으로 금지했다.

영국의 경우, 현행 가짜 누드 사진 관련 법이 “서로 모순되며 시대착오적이고 모호하다”는 대학교 보고서가 나오기도 했다.

리벤지 포르노나 불법촬영 등과 같은 문제에 대해서는 어느 정도 발전이 있음에도 불구하고 법에 여전히 큰 공백이 있다는 지적도 꾸준히 제기된다.