딥페이크(deep fake) 정의, GAN기술, 장점, 단점, 사례

1. 정의

인공지능(AI) 기술 중 하나인 딥러닝의 딥(deep)+가짜(fake)의 합성어인 '딥 페이크'

 

 

2. 기술

GAN기술

딥 페이크는 사진과 영상을 인공지능 기술로 자동 변조하는 CG 기술을 뜻한다. 2014년에 개발된 GAN(생성적 적대 신경망)이라는 딥러닝 알고리즘이 이용된다. GAN(Generative Adversarial Network) 기술은 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘을 서로 경쟁시키듯 학습시키면서 진짜 이미지와 가짜 이미지의 오차를 줄여 진짜 같은 가짜를 만들어 내는 원리다. 이 알고리즘으로 아예 세상에 없는 얼굴을 만들 수 있고, 훈련 데이터로 실제 사람 얼굴을 넣으면 진짜 같은 가짜 딥 페이크 합성물이 탄생하게 된다. 

 

 

3. 장점

딥 페이크가 보편화되면서 이를 긍정적으로 활용하는 방안에도 관심이 많다. 제대로 활용하면 각종 산업 등에서 새로운 부가가치를 창출할 수 있다. 

 

-콘텐츠 산업 분야의 긍정적 활용

AI프로젝트 다시한번

CJ 올리브 네트웍스는 그룹사 CJ E&M과 손잡고 엠넷(Mnet)의 방송 콘텐츠 'AI프로젝트 다시 한번'에 기술 지원을 했다. 2008년 세상을 떠난 가수 터틀맨((故 임성훈)의 모습을 복원한 것이다. 

tvN 월화드라마 ‘나빌레라’ 주요 장면(이미지=CJ올리브네트웍스)

같은 기술로 tvN 드라마 '나빌레라' 마지막 회의 피날레 발레 공연 장면도 연출했다. 

 

 

-교육과 캠페인(딥 노스탤지어)

유관순 열사와 윤봉길 의사

 역사 교육 분야에서는 교과서 속에서만 봤던 사료에 생동감을 준다면 교육 효과나 관심을 환기하는 효과가 클 것이라는 발상이다. 지난 3일 삼일절 무렵에는 유관순 열사, 윤봉길 의사 등 순국선열의 생전 모습을 복원한 딥 페이크 이미지가 화제를 모았다. 해외 온라인 족보 사이트 마이헤리티지의 '딥 노스탤지어' 서비스를 국내 누리꾼들이 활용해 만든 것이다. 처연한 눈빛의 유관순 열사가 눈을 깜박이는 모습과 도시락 폭탄 의거 직전의 윤봉길 의사가 결연한 미소 등이 움직이는 이미지(GIF)로 만들어졌다.

 

 

-의료분야

독일 뤼벡대 의료정보학연구소 연구진이 공개한 GAN 기반의 딥러닝 알고리즘을 활용한 암 진단 인공지능 개발 논문에서 엑스선 영상에 딥페이크 기술을 적용했다.

독일 뤼벡대 의료정보학연구소 연구진은 GAN기반 딥러닝 알고리즘을 활용해 암 진단에 탁월한 성과를 보인 인공지능을 개발했다는 논문을 공개했다. 딥러닝 알고리즘의 뛰어난 이미지 패턴 매칭 기능은 다양한 종류의 암 진단을 할 수 있도록 학습시킬 수 있어 CT, MRI, X선 이미지를 분석해 다양한 암의 징후와 이상신호를 탐지하는 데 활용할 수 있다. 뤼벡대 연구진은 대립 신경망을 이용해 실제 영상과 구별할 수 없는 정확도의 의료영상을 손쉽게 만들어내는 데 성공했다. 또한 GAN은 우선 전체 이미지를 저해상도로 만들어낸 뒤 부분별로 고해상도로 만들어내는 기능을 통해, 컴퓨팅 능력을 크게 아끼는 경제적 방법을 구현했다. 

 

 

 

4. 단점

-명예훼손, 모욕죄

일반 여성 얼굴 사진을 딥 페이크 음란물을 만들어 금전을 요구하거나 협박하는 등 실제 피해 사례가 나타나고 있다. 음란물에 여성 연예인을 이용하여 널리 퍼트리거나 최근 국민의 분노를 샀던 N번방과 유사한 딥 페이크 공유방이 기승을 부리는 문제가 있다. 또한, 연예인과 정치인 등 대중적으로 신중한 언행이 필요한 사람을 타깃으로 공격하는 데 악용되고 있다. 

전 세계 딥페이크 영상의 대부분은 음란물(96%)이다. 심지어 이 음란물에 등장한 얼굴의 25%가 한국 여자 연예인이다. 정치에서 선거를 앞두고 딥페이크 영상이 문제를 불러일으킬 수 있다. 상대방을 비방하거나 영상 속 인물이 다른 말을 하는 등 딥페이크 영상이 대중의 혼란을 야기시킬 수 있다. 음성의 경우 더욱 정교해지면 지금의 보이스 피싱을 뛰어넘는 수준으로 사회 문제를 일으킬 수 있다. 

 

카이스트 연구진이 딥 페이크와 사진의 위·변조를 구별하는 애플리케이션 '카이 캐치'를 선보였다. 동영상의 한 부분을 캡처해 이미지로 만들어 '카이 캐치' 앱에 업로드하면 손쉽게 딥 페이크 여부를 확인할 수 있다. 분석 결과는 0에서 100(%) 값으로 표시되며 숫자가 높을수록 딥 페이크일 확률이 높은 것으로 판단된다.