시니어월드USA

[한국뉴스] 딥페이크 (Deepfake) 기술: AI 인공지능의 양과 음..

대중적 이미지가 중요한 아이돌 당사자들은 피해자임에도 불구하고 적극적으로 대응하거나 공론화하기 어려운 상황에 놓여있다(사진: AI 기술로 구현한 가상의 인물)
사진 설명,대중적 이미지가 중요한 아이돌 당사자들은 피해자임에도 불구하고 적극적으로 대응하거나 공론화하기 어려운 상황에 놓여있다(사진: AI 기술로 구현한 가상의 인물)

최근 한국에서는 ‘딥페이크를 활용한 K팝 아이돌 성적 대상화’에 대한 비판의 목소리가 어느 때보다 크다.

지난 2월 청와대 국민청원 게시판에는 ‘여성 연예인들을 고통받게 하는 불법 영상 ‘딥페이크’를 강력히 처벌해 주세요”라는 청원 글이 올라왔고, 한달 간 39만명이 넘는 국민의 동의를 받았다.

청와대의 공식 답변 요건인 20만명을 뛰어 넘은 것이다.

네덜란드 딥페이크 탐지 기술업체 ‘딥트레이스’가 지난 2019년 발간한 보고서 ‘더 스테이스 오브 딥페이크’에 따르면 인터넷에 유포된 딥페이크 영상 96%가 음란물이고, 음란 영상물 속 여성의 25%는 K팝 아이돌인 것으로 나타났다.

업데이트 된 2020년 보고서에서는 지난해 온라인에 유포된 딥페이크 영상은 85,047건으로, 2018년 이후 매 6개월마다 두배 씩 증가하는 것으로 나타났다.

실제로 다수 불법 음란사이트에 접속해 한국 아이돌을 대상으로 한 ‘딥페이크’ 음란 영상물을 접하는 것은 어렵지 않다.

한 사이트에서는 한국 연예인들만 모아 볼 수 있는 항목이 따로 마련되어 있고, 한국 연예인 이름이 나열돼 있기도 하다.

K팝 아이돌 딥페이크 영상 목록이 나열된 불법 음란사이트
사진 설명,K팝 아이돌 딥페이크 영상 목록이 나열된 불법 음란사이트

음란영상물 배우 몸에 불법으로 한국 여성 아이들의 얼굴을 합성시켜 유포하고 있는 것이다.

대중적 이미지가 중요한 아이돌 당사자들은 피해자임에도 불구하고 적극적으로 대응하거나 공론화하기 어려운 상황에 놓여있다.

오히려 나섰다가 2차 피해의 대상이 되기도 한다.

연예인 불법 촬영과 합성사진 유포에 관련해 법적 대응에 나서고 있는 MLD엔터테인먼트의 이형진 대표는 한류에 힘입어 K팝 아이돌의 인기도 많아지면서 그에 따른 부작용으로 “딥페이크 음란물 유포 피해도 더욱 심각 해졌다”고 말한다.

현재 연예인 소속사 협회에서도 매우 심각한 범죄라고 인식하고 있는 상태이지만, 영상 유포자들을 추적하는 데에는 한계가 있음을 토로했다.

그럼에도 끝까지 포기하지 않고 추적을 해 처벌을 가하는 이유는, “한 아이의 인생이 걸린 문제”이기 때문이다.

MLD 엔터테인먼트 이형진 대표, 딥페이크 음란영상 유포 “절대 쉽게 생각해서는 안되는 범죄”
사진 설명,MLD 엔터테인먼트 이형진 대표, 딥페이크 음란영상 유포 “절대 쉽게 생각해서는 안되는 범죄”

이 대표는 “피해 연예인 당사자의 심정은 말로 표현할 수 없이 힘들다. 정신과 치료를 받고 그것도 못 버티면, 심지어 안 좋은 생각까지 하게 되고, 해서는 안될 행동까지도 벌어진다”면서 피해 연예인들이 겪고 있는 고충을 전했다.

이어 가해자들에 대해 “결국 돈벌이를 위해, 본인 욕구 충족을 위해 이기적인 범죄를 저지르고 있다”면서, “본인이라면, 본인의 가족이라면, 본인의 남편, 아내, 아들, 딸이라면 아무렇지 않게 가짜 음란영상물을 만들어 유포할 수 있겠느냐”고 호소했다.

또 아무리 가짜 영상이라고 해도 보는 사람은 ‘가짜 영상임을 인식하지 않는다’며 “딥페이크 음란영상 유포는 절대 쉽게 생각해서는 안되는 범죄”임을 강조했다.

미흡한 디지털 성범죄에 대한 인식

“가짜인 것 알고 보는 것인데, 범죄가 되나?”

‘딥페이크’를 이용해 제작된 연예인 허위 음란 영상물에 대한 한 남성의 반응이었다. 영상을 진짜라고 속이고 유포하는 것이 아닌, ‘가짜(fake)’ 라고 명시하고 있으니 문제가 없다는 것이다.

이수정 경기대학교 범죄심리학과교수는 “딥페이크 영상물 속 당사자의 동의를 구하지 않은 것이 핵심” 이라며 범죄인 이유를 설명했다.

배우와 감독 등이 동의를 구하고 철저한 계약을 맺고 촬영한 음란영상물과는 엄연히 다르다는 것이다.

이수정 교수 “딥페이크 영상이 연예인의 극단적 선택을 유발하는 이유가 되거나, 그럴 개연성이 굉장히 커 보인다.”
사진 설명,이수정 교수 “딥페이크 영상이 연예인의 극단적 선택을 유발하는 이유가 되거나, 그럴 개연성이 굉장히 커 보인다.”

이 교수는, 특히 디지털 성범죄자의 피해자들의 경우 가해자를 특정하기가 어렵고, 영상이 한번 퍼지면 불특정 다수가 직간접적 가해 행위를 하게 되기 때문에 피해자가 느끼는 막연한 공포심과 피해는 회복 불가능한 것이라고 설명했다.

때문에 실제 강간 피해자들에 비해 디지털 성범죄 피해자들이 극단적 선택을 하는 경우가 많다며, “경우에 따라서는 앞으로 딥페이크 영상이 연예인의 극단적인 선택을 유발하는 이유가 되거나, 그럴 개연성이 굉장히 커 보인다”고 우려했다.

딥페이크: 세계 1위 K팝 아이돌, AI 포르노도 1위? 딥페이크 불법 음란 영상물 속 피해자 25%가 K팝 여성 아이돌이라는 조사가 있다.

인간을 돕는 AI

.

화면 속에서 단정한 옷 차림의 남성이 취재진을 향해 인사를 건넸다.

남성은 인간이 아닌 한국 AI 계발업체 ‘머니브레인’이 세계 최초로 선보인 인공지능 AI 앵커다.

실제 존재하는 사람의 얼굴과 목소리를 컴퓨터에 따온 ‘복제품’이라고 할 수 있다.

프로그램에 글자만 입력하면 화면속에서 ‘복제품’은 실제 사람의 표정과 억양, 목소리까지 그대로 흉내 낸다.

AI 핵심기술인 딥러닝 (Deep Learning)을 이용해 특정 사람의 얼굴이나 신체를 합성하고 억양, 목소리까지 그대로 따라 할 수 있는 ‘딥페이크 (Deepfake)’를 비롯해, 가상의 인물을 처음부터 만들어 내는 기술까지, 인공지능의 기술은 어느새 진짜와 가짜를 구분할 수 없는 수준에 이르렀다.

AI 기술이 처음부터 불법음란물 유포 등 범죄에 이용하기 위해 만들어진 것은 아니다.

장세영 머니브레인 대표는 앞으로 AI 기술이 인간에 가져다 줄 무한한 가능성을 기대하고 있다
사진 설명,장세영 머니브레인 대표는 앞으로 AI 기술이 인간에 가져다 줄 무한한 가능성을 기대하고 있다

AI기술은 얼굴인식 기술 진화의 원동력이 되고 있는데, AI가 딥러닝을 통해 수많은 얼굴 정보를 익히도록 함으로써 얼굴인식 능력을 향상시키고, 이는 범죄자 색출, 테러범 차단 등 신원 확인 수단으로도 쓰인다.

가짜와 진짜를 구분할 수 있는 뛰어난 능력으로 X선과 CT, MRI의 자료를 분석해 암의 징후 등을 찾아내는 등 의료분야에서도 큰 도움을 줄 수 있다.

장세영 머니브레인 대표는 앞으로 AI 기술이 인간에게 가져다 줄 새로운 가능성은 무궁무진하다고 설명한다.

특히 코로나19로 비대면 서비스가 활성화되면서 업체가 개발한 AI 앵커 외에도 AI 아이돌, AI 선생님 등, 엔터테인먼트, 교육 뿐 아니라 장례와 금융과 같은 다양한 분야에 AI 기술을 접목시킬 계획이다.

“실제 유명한 아나운서의 경우에는 본인이 일을 하지 않아도, AI가 대신 행사를 나가거나 뉴스를 진행하면서 돈을 벌기 때문에, 앞으로는 AI가 자신을 대체해서 일을 해주는 서비스도 나올 것” 이라고 전망했다.

AI 기술은 사람들의 마음을 위로하는데도 활용된다.

장 대표는 “얼굴을 보지 못하는 그리운 사람의 모습을 똑같이 재현하고, 더 나아가 그 사람이 생전 경험했던 여러 모습을 학습시켜서 그 사람과 대화할 수 있는, 영원히 그 사람을 보존할 수 있는 기술을 개발하고 있다.”고 설명했다.

또 맞벌이가 필수인 요즘 시대에, 아이와 시간을 못 보내는 “부모를 대신해서 부모의 목소리로 동화책을 읽어주는 AI서비스도 이미 제공되고 있다”고 말했다.

최근에는 AI 기술을 범죄 수단으로 악용되는 딥페이크 검출하고, 온라인에 돌아다니는 영상의 진위 여부를 판단할 수 있도록 도움을 주는 ‘AI 페이크 파인더’를 개발해 무료로 제공하고 있다.

양날의 검

.

현재 딥페이크 범죄와 관련해서 적용할 수 있는 법 조항에 따르면, 대상자의 의사에 반해 사람의 얼굴, 신체나 음성을 편집·합성·가공·복제한 촬영·영상물 등을 제작하거나 유포하면 5년 이하의 징역이나 5000만원 이하의 벌금형에 처한다.

한국 경찰은 지난해 디지털 성범죄 특별수사본부를 운영하며 총 2천8백 여 건에 달하는 사이버성폭력 범죄를 단속하고, 3천5백여 명을 검거한 바 있다.

이수정 교수는 그러나 “이 같은 범죄에는 국경이 없다”면서 해외 서버를 이용하면 경찰이 유포자를 검거하는데 한계가 있다고 설명했다.

하루가 다르게 발전하는 디지털 범죄에 비해 현행 법이나 정책은 그 속도를 따라 갈 수 없다.

이수정 교수는 “피해자가 느끼는 고통을 온라인에서 공감하기는 어렵다는 것 또한 문제” 라면서 “최근 디지털 범죄의 양상은 피해자의 존재를 인식하지 못하는, 사악한 방식으로 발전하고 있다고 본다”고 진단했다.

결국 법과 정책, 문제해결을 위한 세계적인 노력과 더불어 “이전과는 완전히 다른 새로운 형태의 교육모델이 나오지 않으면 안된다”면서 “한번의 클릭이 한 사람을 죽음으로 몰을 수 있다는 것을 어릴 때 부터 교육시켜야 한다”고 강조했다.

또 “한국처럼 IT 기술이 빠르게 발전하는 나라가 없는 만큼, 한국에서 어떻게 대응하느냐에 따라 전세계의 선례가 될 수 있다”고 덧붙였다.

사회복지 (쇼셜서비스) 또는 위의 칼럼내용에 대해 궁금한 것이 있으신가요?

궁금한 점 문의는, 카톡에서 ‘시니어월드’를 검색후 친구를 맺고, ‘하이’라고 인사말을 남기신 후 질문하세요.

또는 아래 양식을 작성하여 보내주시면, 성심껏 안내해 드립니다.

Leave a Reply

Scroll to Top