디지털 소비자 – 인공지능(AI)와 더불어 살아가기

[소비라이프Q / 기획취재팀]

인공지능(이하 AI)기술의 발전이 만드는 빛과 그늘이 분명해지고 있다. 특히 딥페이크(Deefake) 성범죄 문제는 가해자와 피해자를 모두 당황스럽게 만들고 있다.

우선 얼굴합성 만들기가 생각보다 쉽다. ‘텔레그램 딥페이크봇’ 알고리즘을 이용하는 것이다.

텔레그램에 인물 이미지를 올리면 여성의 나체에 인물합성을 자동으로 생성하는 알고리즘이다. (딥페이크 제작봇을 이용) 스마트폰을 잘 다루는 초,중,고교생 사이에 성범죄자가 늘어나는 이유다. 한 설문조사에서는 놀이문화 삼아 장난으로 했다고 하지만 자기 행위가 범죄라고 생각했다는 응답이 많아서 충격을 주었다. 알면서 한 이유는 ‘잡히지 않는다’(인터넷 익명성)는 이유였다. ‘처벌이 약하다’는 답변도 처벌미비 문제로 지적되었다.

텔레그램 수사를 강화해야 한다는 의견이 나오는 이유이기도 하다. 문제는 텔레그램이 아닌 다른 얼굴 합성 알고리즘도 확산되고 있기 때문이다.

영국의 대표적 생성 AI 스타트업 스태빌리티 AI의 이미지 생성 도구인 ‘스테이블 디퓨전’을 통하면 AI 모델을 쉽게 가공해 낸다는 것이다. AI룩북은 AI모델을 선정적으로 이용하는 콘텐츠다. 이미 음란물을 만들어 판매하는 사례가 나오고 있다.

가해자인 학생들에게는 처벌을 숙지하고 범죄자가 되지 않아야 한다는 교육이 필요하다. 범죄 처벌은 강화추세다.

딥페이크 성 착취물인지 알면서도 이를 소지하거나 시청하면 최대 징역 3년형을 받을 수 있도록 한 성폭력처벌법(성폭력범죄의 처벌 등에 관한 특례법 개정안)이 국회 법제사법위원회를 통과했다. 개정안에는 딥페이크 성 착취물을 비롯한 허위 영상물 등의 소지·구입·저장·시청죄를 신설해 3년 이하 징역 또는 3000만원 이하의 벌금에 처하도록 하는 내용이 담겼다. 놀이로 여기고 참여했다가 받는 처벌이 무겁다는 점을 학생들이 이해하도록 교육해야 한다.

여성가족부(이하 여가부)가 진행하는 디지털성범죄 온라인플랫폼 ‘디클’ 체험활동도 대안이 되고 있다. 디클 콘텐츠는 초등, 중등, 고등부학생에게 각각 맞춤형 교육활동으로 구성되어 있다. 초등학생은 온라인 그루밍 상황을 게임으로 구성해 성범죄의 특성 및 평등하고 건강한 관계를 체험하도록 구성되었다. 중학생은 ‘그 사진 동의했나요?’, ‘혐오 표현 이제 그만’ 등 현실적 주제를 반영한 콘텐츠가 주목되었다.

중학생 콘텐츠는 ‘그 사진 동의했나요?’, ‘혐오 표현 이제 그만’ 등 현실적인 주제를 반영한 구성이 눈길을 끌었다. 중학생들이 직접 모바일 채팅을 통해 디지털 세상의 낯선 사람들과 대화를 나눠보는 실험도 할 수 있다. 첫 만남에 게임, 모델 지망생 등 아이들의 고민을 들어주며 모델 워킹 조언을 위해 동영상을 보내 달라는 요구에 참가자가 순순히 응하면 사이렌이 울리며 실험이 종료된다.

디클의 고등학생용 콘텐츠는 평상시 성차별적 문화가 디지털 성범죄에 어떤 영향을 주는지 같은 환경에서 자란 남매를 통해 보여줬다. 성별 고정관념을 알게 되고 폭력예방 교육효과도 담겨 있는 내용이었다.

딥페이크 성범죄에서 피해자 여성들은 가해자 다수가 미성년자란 점에 충격을 받고 예방과 교육은 물론 처벌을 요구하는 목소리가 높았다. 여성들의 연대는 국경도, 국적도 넘는다··· 세계로 번진 딥페이크 성범죄 규탄처럼 글로벌 이슈로 확산 중이다.

“여성에게 국경은 없다(As a woman I have no country).”

“한 명의 딥페이크 피해는 우리 모두의 피해다(A deepfake to one is a deepfake to all).”

2024 미스코리아 대회에서 부적절한 질문이 나와 딥페이크 문제는 더욱 이슈가 되었다. “딥페이크 영상 속 내가 더 매력적이라면 진짜 나와의 갭은 어떻게 줄일 수있을까요?”라는 질문이었다. 딥페이크 성범죄가 확산되는 상황에서 이러한 질문을 하는 것은 적절하지 않다는 지적이 쏟아졌다.

여성들은 디지털 성범죄피해가 확산되지 않도록 강력한 처벌과 효율적인 교육과 대안이 만들어지기를 바라는 입장이다.

향후 문제는 딥페이크를 할 수 있는 페이스 스왑(얼굴합성) 프로그램을 긍정적으로 활용하는 방안이 다양하게 제시되어야 한다는 점이다.

트럼프 가짜뉴스처럼 합성이미지로 활용하는 선거운동도 부작용이 크다는 것이다.

딥페이크를 잡아내는 탐지 기술에도 AI 기술이 적용된다. 인텔이 개발한 딥페이크 탐지 프로그램 ‘페이크캐처’는 사람 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 영상 속 얼굴색을 비교하는 방식으로 딥페이크 여부를 구별한다. 얼굴의 핏줄 정보를 실시간 검사하는 방식이다. 영상을 픽셀 단위로 분석해 96%의 정확도로 가짜 영상인지 알 수 있다. 가장 많이 사용되는 딥페이크 합성 기술은 가상인간 얼굴을 제작하는 ‘페이스 제너레이션’(Face Generation), 원하는 얼굴 등 신체 일부를 바꾸는 ‘페이스 스와프’(Face Swap)다.

이를 구별하는 원리는 원본 이미지의 화소(픽셀), 음성의 주파수 패턴을 학습한 뒤 위조 이미지에서 변조된 패턴을 대조하는 것이다. 프로그램 개발 업체인 딥브레인AI에 따르면 사진 등 이미지의 경우 장당 1~2분, 인스타그램 등 사회관계망서비스(SNS)에서 자주 나오는 1분 내외의 짧은 영상(숏폼) 콘텐츠는 5~7분 이내에 판독이 완료된다.

경찰청 국가수사본부(국수본)도 딥페이크 탐지 소프트웨어를 개발해 범죄 단속에 활용한다. 경찰이 개발한 소프트웨어는 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 5~10분 내 분석작업을 완료해 영상의 진위를 구분한다. 경찰은 선거범죄, 합성 성 착취물 범죄, 딥페이크를 이용한 다양한 범죄에 대처능력을 키워갈 방침이다.

향후 AI활용 서비스는 AI 편향알고리즘 극복문제와 얼굴인식 보안강화 문제가 이슈가 될 것으로 보인다. AI 편향알고리즘은 이루다(AI챗봇)와 테이(Tay, MS의 AI챗봇)가 ‘대량학살을 지지한다’ 등 차별과 비속어를 말해 그 결함이 인정되어 퇴장한 사건처럼 해결이 쉽지 않다. 얼굴인식도 보이스피싱과 금융사기에 노출되면 오인되지 않는 수준의 높은 보안 수준이 준비되어야 한다. 모바일 주민등록증을 얼굴인식과 지문인식을 함께 적용하는 멀티모달 방식이 주목받는 이유이기도 하다.

AI와 더불어 살아가는 디지털 소비자들의 지혜와 순발력이 필요한 시대가 깊어지고 있다.