N번방을 잇는 '딥페이크방' 출현!
딥페이크방 범죄에 관한 뉴스가 나오면서, 많은 분들이 '딥페이크' 기술에 대한 관심을 가지고 있습니다. 저 또한 딥페이크가 대체 뭐길래 연예인 성범죄에 악용되고 있나 많이 궁금해서 찾아보았어요.
딥페이크 뜻
딥페이크(deepfake) 란 인공지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 말합니다.
과거에는 인물의 사진이나 영상을 조악하게 합성해 게시하던 것인데, 이를 디지털 기술과 인공지능의 발전을 이용해 몇 단계 정교해진 결과라 볼 수 있어요.
원리는 다음과 같은데요.
합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것입니다.
<출처 : 나무위키>
딥페이크 어플
구글플레이 스토어에서 '딥페이크'라고 검색만 하여도, 얼굴 합성관련한 어플들이 많이 나오는데요.
우리나라에서 사용할 수 있는 딥페이크 영상제작 어플은 현재 없는 걸로 보입니다. 사진으로 조악하게 얼굴을 합성할 수 있을 뿐인데요.
중국에서는 '자오'라는 딥페이크 어플을 출시해서, 중국어플 다운로드 수 1위에 올랐습니다. 어플사용자가 자신의 얼굴사진을 업로드하는 것만으로 특정영상에 얼굴을 합성해주는데, 의외로 자연스러워서 인기라고 해요. 자오에서 올린 시범영상들을 보면 어느정도의 기술수준인지 가늠해볼수있어요. 현재 자오는 한국에서 사용은 불가하며, 중국 휴대폰번호가 있어야 하는것으로 보입니다. 어쩌면 딥페이크방 범죄도 이 자오어플을 이용한게 아닐까싶네요.
자오 어플을 실제로 사용하는 유튜브영상인데, 보시면 정말 자연스러움에 깜짝 놀랄만하네요.
딥페이크 범죄
처음 이 딥페이크 기술이 어플로 쉽게 사용이 가능했을 때부터, 영상조작 범죄에 악용할 수 있다는 문제점이 지속적으로 지적되어왔습니다.
최근 딥페이크 단톡방에서 연예인얼굴이 합성된 성착취 동영상이 공유되면서 문제가 더 크게 논란이 되었습니다.
몇개월전에 올라왔던 영상인데, 이 영상에 보면 그저 사람없이도 방송이 가능하겠구나...하는 신기한 마음이 들 뿐이었지요. 물론 미국에서는 선거에서 딥페이크영상으로 여론을 조작하는 범죄가 있었고, 딥페이크기술이 발달하는 속도에 비해 딥페이크영상을 잡아내는 기술은 뒤쳐져있는 문제가 있다고 했죠. 그래서 영상속에서도 2020년 총선에도 미국처럼 조작영상의 문제가 발생하지 않을까하는 우려심을 드러냈는데요.
그런데 총선이 문제가 아니라, 연예인 얼굴합성 딥페이크 단톡방이 문제가 되었습니다.
딥페이크 범죄 처벌수위
그러면 과연, 딥페이크영상을 처벌할 수 있는 방법은 없을까요?
현재는 개별 처벌요건에 맞아야 처벌할 수 있는 형법의 특성상, '허위사실 적시로 인한 명예훼손죄'와 '음화 반포죄'를 적용하여 처벌받을 수 있는데요.
1. '허위사실 적시로 인한 명예훼손죄' - 5년이하 징역, 10년이하 자격정지 및 1천만원 이하벌금
2. '음화 반포죄 - 1년이하 징역 또는 500만원 이하 벌금'
그 죄질에 비해 처벌이 매우 약하네요.
그래서 최근 법무부에서 발표한 자료에 따르면 딥페이크 영상과 관련된 '성폭력범죄의 처벌 등에 관한 특례법'이 개정되었습니다.
1. '반포, 판매 등의 목적으로 사람의 얼굴, 신체, 음성에 대한 촬영물, 영상물 등을 성적 욕망, 수치심이 유발될 수 있게 편집, 합성, 가공하면 5년 이하 징역 또는 5천만원 이하 벌금
2. 편집물, 합성물, 가공물 또는 복제물을 반포, 판매 등을 한 자는 5년 이하 징역 또는 5천만원 이하 벌금
3. 영리를 목적으로 정보통신망을 이용해 반포, 판매하면 7년이하 징역으로 가중처벌
딥페이크는 딥러닝 기술의 발전으로 이루어진 기술적 발전으로, 아무리 막는다고 해도 사용자의 행동을 모두 막는 것은 현실적으로 힘들어보입니다. 딥페이크 기술을 응용한 다양한 어플들이 이미 많이 사용되고 있기 때문이죠. 다만, 그 이용의 목적과 결과물이 불법적이지 않은 한도내에서 사용할 수 있도록 해야하겠습니다.
그리고 더욱 시급한 것은 딥페이크를 구별해낼 수 있는 가짜 색출기술일텐데요. 현재는 눈으로도 인식할만한 수준의 합성이라면, 더욱 발전되면 도저히 눈으로는 진짜와 가짜를 구별할 수 없는 기술까지 발전할것입니다.
딥페이크 기술의 발전을 막을수는 없지만 올바른 방향으로 사용하는 것은 스스로의 기준이 있다면 충분히 가능할 것으로 보입니다.
댓글