엠마 왓슨이 음란 광고물 주인공?…AI 딥페이크 범람

(톱스타뉴스 편집팀 기자) 영화 '해리포터'의 주인공 엠마 왓슨 등 유명 배우들이 딥페이크 기술로 인해 SNS의 음란 광고에 등장하고 있다고 미국 NBC 뉴스가 8일(현지시간) 보도했다.

딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있다.

보도에 따르면 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장한다.

그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취한다.

당연히 이 광고에 실제 왓슨이 출연한 것이 아니라 딥페이크로 영상의 얼굴만 바꿔치기한 것이다.

페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했다.

이러한 비동의 딥페이크 영상은 왓슨 같은 유명 인사나 인플루언서뿐 아니라 미성년자까지 포함한 어떤 사람의 얼굴도 바꿔치기할 수 있다는 데 문제의 심각성이 있다.

원래 메타 등 많은 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나 NBC가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화돼 있다.

노골적인 성적 행동은 대체로 걸러지지만 '핫'(Hot) 콘텐츠와 같이 미리 정해진 범주의 허점을 활용해 아슬아슬하게 옷을 입은 남녀의 동영상으로 딥페이크 대상물을 삼는 것이다.

NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했다. 문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었다.

미국 테네시주에서 저널리즘을 공부하는 학생 로렌 바튼은 똑같은 딥페이크 광고를 이용해 손쉽게 자기 얼굴을 50개 무료 견본 중 하나의 화면으로 녹화한 뒤 트위터에 올렸더니 조회수가 1천만뷰 이상 달려 충격을 받았다고 전했다.

그러면서 "이것은 고등학교에서 학교폭력에 시달리는 이들에게 악용될 수 있다"며 "그건 누군가의 인생을 망치고 그들의 일자리까지 문제를 일으킬 수 있다"고 우려했다.

문제의 앱 광고물은 NBC가 7일 취재에 들어가자 모두 메타 서비스에서 사라졌다고 한다. 애플 앱스토어에도 똑같은 광고물이 9세 이상 무료로 다운로드가 가능하게 돼 있었으나 NBC의 취재 후 삭제됐다.

메타 대변인은 성명에서 "우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"고 설명했다.

애플 대변인은 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지한다고 말했다.

앞서 로이터통신도 지난 2021년 12월 비슷하게 딥페이크 포르노물 조사를 한 적이 있다. 로이터가 조사한 다른 앱은 그러나 아직도 애플 앱스토어와 구글 플레이에서 다운로드가 가능하다.

딥페이크 기술은 때로 유명 인사와 정치인이 하지도 않은 언행을 한 것처럼 만들기도 한다.

그러나 압도적으로 대부분은 스타들의 동의를 받지 않은 채 포르노물에 악용되고 있다. 2019년 딥트레이스라는 미디어 온라인 모니터 회사의 조사에선 온라인 딥페이크 소재의 96%가 포르노물이었다.

2018년 이후 딥페이크 포르노 동영상은 매년 배 가까이 증가했다고 라이브 스트리밍 분석가인 제네비브 오가 말했다.

팬들의 마음을 기사로 대신 전해주는 'F레터(팬레터라는 의미)'에 많은 제보와 관심 부탁드립니다.

톱스타뉴스에서는 팬들의 마음을 기사로 대신 전해주는 'F레터(팬레터)' 사연을 받고 있습니다.
스타의 비전을 함께 공유하면서 비상하고 있는 스타의 '소울메이트'인 팬들의 진심과 그들의 감성, 그리고 시선을 담고자 'F레터'를 기획했습니다.

F레터 속에는 아픔도 있고, 슬픔도 있고, 희망과 행복도 있지만 공통분모는 '다들 나와 비슷하구나'에서 오는 정서적 위로가 가장 큰 가치라고 생각하기에 보다 많은 팬들의 마음이 많은 대중들에게 전달될 수 있을 것으로 기대됩니다.

'F레터'는 아티스트의 철학적 선율이 담긴 스토리를 직∙간접적으로 경험한 팬들이 '스타를 접한 당시의 감정과 감성의 편린'으로 인해 자신의 삶을 더욱 풍요롭게 만들었던 '순간의 감동과 추억, 그리고 그 감성'을 여러 독자에게 소개하고 공유하고 있습니다. 팬들의 관점에서 본 '나의 최애에 대한 이야기, 팬카페에 올려진 감동적인 글, 내가 그에게 빠진 이유, 내 인생의 최애 곡, 내 마음을 흔든 결정적 장면, 내 마음을 훔쳐갔던 그 시기-그 시절, 나만의 플레이리스트, 내가 스타를 사랑하게 된 이유' 등의 팬 글들을 'F레터'로 보도하고 있다. 자세한 'F레터'는 공지를 통해 확인할 수 있습니다.

팬들의 마음을 기사로 대신 전해주는 'F레터(팬레터라는 의미)'에 많은 제보와 관심 부탁드립니다.

편집팀 기자

reporter@topstarnews.co.kr

이 기자의 다른기사 보기