이제는 멈춰야 할 ‘딥페이크’ 성범죄물

JIKS 11 김지후

최근 인공지능 AI 기술을 활용하여 도용한 신상 정보와 SNS 계정에 게시된 얼굴과 사진을 음란물에 합성한 가짜 영상물을 제작하고 유포하는 범죄행위에 해당하는 ‘딥페이크’로 피해를 보는 사람들이 늘어나고 있다.

며칠 전, 딥페이크 범죄 기술을 사용하여 여교사들의 얼굴을 나체사진에 합성한 뒤 SNS에 유포한 고등학생이 경찰에 붙잡히는 상황이 발생했다. 그렇게 인천 남동경찰서는 이 고등학생 A군을 수사하고 있으며 수사 결과 A군은 주로 텔레그램을 통해 성범죄물을 유포했던 것으로 드러났다.

이 외에도 또 다른 피해가 발생했다. 수능이 2달 남은 고등학교 3학년의 여학생이 딥페이크 기술로 피해를 본 것이다.

이 또한 텔레그램을 기반으로 음란물을 합성한 것이었고 결국 피해자 여학생과 여학생의 부모님이 온라인에서 무분별하게 저장, 유통되는 사진과 영상을 삭제해 주는 일을 하는 디지털 세탁소를 찾아가기도 했다.

본래 디지털 세탁소의 목적은 SNS에 올렸던 자신의 사진이 허락 없이 올려졌을 경우, 또는 자신의 흑역사를 완전히 지우기 위해 사용된다고 한다. 그러나 오늘날 딥페이크 범죄 기술이 향상하면서 성범죄 관련 영상 삭제를 요구하는 문의가 꾸준히 늘어나고 있다.

그러나 충격적인 사실은 디지털 세탁소에 삭제를 요청하는 문의가 대부분 가해자 부모인 것으로 드러났다. 피해자가 요청하는 건보다 가해자가 요청하는 문의가 더 많다는 것이다.

이와 같이 가해자나 그 부모다 디지털 세탁소에서 근무하는 직원들과 상담할 때 그들의 태도가 너무 당당한 탓에 디지털 세탁소는 가해자의 경우, 피해자와 합의를 한 뒤 동의를 받아왔을 때만 그들의 요청을 들어준다고 전했다.

또한, 텔레그램 내부의 내부 디지털 세탁은 사실상 불가능하다는 점이 디지털 세탁의 한계점이다. 텔레그램 사이트 내에서 돌던 영상이 외부로 유출되었을 때만 세탁이 가능하다는 것이다.

그럼에도 여성학 박사인 허민숙 국회 입법 조사관은 확실한 제재를 통한 사전 예방이 어려운 지금 시점에서 피해자에게는 디지털 세탁이 거의 유일한 대안일 것이라고 전했다.