[소비라이프/박민준 소비자기자] 딥페이크(Deepfake) 기술의 발달로 영상 제작 업체는 저렴한 비용으로 질 좋은 결과물을 얻을 수 있다. 반면, 가짜 뉴스 제작, 합성 사진 및 영상 배포 등 딥페이크를 악용하는 사람이 연이어 나타났다. 관련 업계에선 대안을 마련하고자 노력 중이다.

미국 비영리단체 'Represent Us'는 투표자들의 미국 대선 참여를 촉진시키기 위해 딥페이크 영상 2개를 유튜브에 게시했다. 딥페이크 기술을 활용한 2개의 합성 영상에는 각각 러시아 대통령 블라디미르 푸틴과 북한 지도자 김정은이 선거를 격려하는 내용이 담겼다. 사람들은 이 영상을 보고 딥페이크 기술의 발전에 대해 놀라움을 표시하는 한편, 악용될 여지에 대한 우려도 나타냈다.

딥페이크는 인공지능을 통해 사람의 표정과 얼굴을 학습하고 다른 영상에 적용하는 기술로 GAN(Generative Adversarial Network)을 바탕으로 등장한 기술이다. GAN에서 생성자는 실제 데이터를 통해 학습하고 가상의 데이터를 만들어내고 분류자는 거짓 데이터를 구분한다. 두 모델들 간 대립을 통해 생성모델과 분류모델 성능은 계속 발전한다.

GAN과 딥페이크 기술이 발전하면서 다양한 분야에서 관련 기술이 활용되고 있다. 특히 더빙업계에서는 한 사람의 목소리를 활용해 다양한 언어로 번역하기도 했다. 의료계에서도 고화질 사진을 바탕으로 암이나 다른 질병을 찾아내려는 시도가 존재했다. 엔터테인먼트 업계에서도 과거 인물이 등장하는 영상을 만들거나, 적은 비용으로 CG 효과를 대신할 수 있어서 주목받고 있다.

그러나 딥페이크 기술이 발전하는 만큼, 악용될 수 있다는 우려도 늘고 있으며 실제 범죄사례도 증가했다. 특히 유명인의 얼굴을 모델로 해 합성 영상을 만들어 배포하는 범죄가 늘고 있다. 미국에서는 지난 2017년 유명 할리우드 여배우 합성 영상이 제작되는 범죄가 발생했고 일본에서도 여성 연예인을 합성한 음란물이 제작됐다. 국내에서도 여러 인터넷 사이트나 텔레그램 채팅방을 중심으로 한국 연예인들과 일반인의 합성 음란물이 배포되는 범죄가 잇따라 발견됐다.

딥페이크 기술을 중심으로 한 사이버 성범죄가 나날이 심해지자 '성폭력범죄의 처벌 등에 관한 특례법'이 개정돼 지난 6월부터 시행됐다. 영리 목적으로 정보통신망을 이용해 합성 음란물을 배포할 경우, 최대 7년 이하의 징역에 처해진다. 반포나 판매의 목적으로 촬영물이나 사진을 편집, 합성해서 성적 수치심이나 욕망을 불러일으킬 경우 5년 이하의 징역 혹은, 5천만 원 이하의 벌금형에 처해진다.

딥페이크 기술은 유명인뿐만 아니라 모두에게 해가 될 수 있다. 실제 사례를 살펴보면 유명 정치인의 가짜 영상을 제작해서 가짜 뉴스를 배포하는 방식으로 지지도를 낮추고 여론을 왜곡하는 경우가 있었다. 일반인을 합성한 영상이나 사진으로 그 사람의 행동을 조작하고 평판을 낮추는 범죄와 유명인이 등장하는 학습 영상을 활용한 사기 사례도 전 세계에서 발견됐다. 

학습 데이터를 통해서 실제와 유사한 결과를 얻어내는 GAN과 딥페이크 기술이 발전할수록 관련 범죄도 기승을 부리고 있다. 페이스북과 마이크로소프트 등 IT업계에선 딥페이크 기술의 피해를 막고자 실제 영상과 거짓 영상을 구분하는 기술을 개발하고 있다. 법률 체계도 기술을 악용하는 사람에 대한 처벌을 강화하는 방향으로 변화하고 있다. 한국에서도 일명 '딥페이크 법'이 국회를 통과해서 딥페이크를 제작 및 배포하는 사람에 대한 처벌을 규정했다.

딥페이크 기술의 악용을 막기 위한 다양한 시도가 등장하고 있으나 일부 전문가들은 인공지능 기술이 발달하는 이상 완전한 차단은 어렵다고 주장했다. 따라서 인터넷 윤리 교육을 강화하는 한편, 관련 범죄자에 대한 더욱 강력한 처벌이 필요할 것으로 보인다.

박민준 소비자기자 다른기사 보기