[u클린 2021] ③ AI가 만든 가짜 얼굴 '딥페이크'
AI(인공지능)는 인간의 따뜻한 친구가 될 수 있을까. 인류의 삶을 풍족하게 만들기 위해 고안된 AI는 그러나 최근 알고리즘의 편향성과 부작용 등 각종 논란에 휩싸여있다. AI 뿐 아니다. 빅데이터와 사물인터넷, 로봇, 생명과학 등 4차산업혁명 기술은 앞으로 어떻게 활용되느냐에 따라 양날의 칼이 될 수 있다. 올해 U클린 캠페인은 '사람 중심의 지능정보기술'(Tech For People)을 주제로 새로운 기술이 필연적으로 수반하는 윤리적 문제와 해법을 제시한다.

#20대 여성 A씨는 지난 1월 SNS(사회관계망서비스)를 하다가 섬뜩한 경험을 했다. 200만원을 보내지 않으면 A씨 얼굴을 합성한 딥페이크 음란물을 유포하겠다는 협박성 메시지를 받은 것이다. A씨는 이 계정을 경찰에 신고했다.

국가정보원 국제범죄정보센터(TCIC)는 지난달 발간한 '국제범죄위험알리미'에 이같은 사례들을 싣고 딥페이크 범죄 피해에 대해 경고했다.

인공지능(AI) 기술 중 하나인 딥러닝(심화학습)의 '딥(deep)'과 '가짜(fake)'의 합성어인 '딥페이크'가 4차 산업혁명 시대의 새로운 범죄 기법으로 자리잡은 지 오래다. 이미 만들어진 가짜를 구분하거나 애초에 이미지 변조를 막는 방법 등 딥페이크 탐지·방지 기술 연구와 사회적 감시를 위한 글로벌한 딥페이크 방어 체계를 구축할 필요성이 제기된다.
쉬워진 제작기술…성착취·금전 갈취 수단으로딥페이크는 사진과 영상을 인공지능 기술로 자동 변조하는 CG(컴퓨터그래픽) 기술을 뜻한다. 2014년 개발된 GAN(생성적 적대 신경망)이라는 딥러닝 알고리즘이 이용된다. GAN 기술은 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘을 서로 경쟁시키듯 학습시키면서 진짜 이미지와 가짜 이미지의 오차를 줄여 '진짜같은 가짜'를 만들어내는 원리다. 이 알고리즘으로 아예 세상에 없는 얼굴을 만들 수도 있고, 훈련 데이터로 실제 사람 얼굴을 넣으면 '진짜같은 가짜' 딥페이크 합성물이 탄생하게 된다.

딥페이크 범죄가 무서운 것은 현실에서 얼굴을 마주보는 지인에게도 얼마든지 내 얼굴을 도둑맞을 수 있다는 점이다. SNS에 올린 사진 한장만 있어도 거의 진짜같은 가짜 영상을 만들 수 있다. 네덜란드 AI 연구소 센서티가 발간한 보고서에 따르면 지난해 7월까지 텔레그램 기반 '딥페이크봇'을 이용한 전세계 딥페이크 합성물 63%가 '가해자들이 실제로 알고 지내는 여성'을 합성한 것으로 조사됐다.

딥페이크를 어렵지 않게 만들 수 있는 애플리케이션과 라이브러리(소프트웨어 개발을 위한 하부 프로그램)가 다양해지면서 가해자와 피해자들의 연령대는 점점 어려지고 있다. 지난달 경찰청 국가수사본부 발표에 따르면 지난해 12월부터 5개월간 딥페이크 불법합성물을 만들고 유포한 디지털 성범죄 피의자 94명 중 69.1%가 19세 미만 청소년이었다. 피해자도 19세 미만이 57.9%로 가장 많았다. 학교 선생님, 동창생 등이 피해자가 되고 같은 반 학생이 가해자가 되는 식이다.

딥페이크를 성범죄뿐 아니라 사기 용도로 이용하는 사례도 적지않다. 각종 피싱에 보험사기, 세금 탈루 등 종류도 다양하다. 음성 합성에도 GAN 알고리즘이 쓰이면서 이른바 '딥보이스'(보이스 딥페이크) 사기로 확장되고 있다. 월스트리트저널 등 외신에 따르면 이미 2019년 3월 영국의 한 에너지회사 대표는 거래 보험사 CEO 목소리를 사칭한 딥보이스 사기에 당해 22만 유로(약 3억원)을 뜯겼다.

정부나 기업으로 피해가 번지자 보안 전문가들 사이에서는 앞으로 딥페이크가 국가 안보까지 위협할 수 있다는 우려도 나온다. 코로나19 이후 비대면 신원 확인 시스템이 늘어나면서 딥페이크로 위조여권을 만들고 밀입국해 각종 밀수나 해외도피, 테러 등 범죄를 벌일 가능성도 제기되는 것이다.
"이에는 이, AI에는 AI"…딥페이크 탐지 전쟁이에 딥페이크 탐지 기술과 방어 체계를 더 고도화해야한다는 목소리가 나온다. 정보보호업계에 따르면 최근 FBI(미 연방수사국)나 인터폴(국제형사경찰기구), 국정원 등 각국의 수사·정보기관들도 각기 국가 안보를 위한 딥페이크 탐지 체계 내지는 공조 체계를 만들기위해 고심하고 있다.

AI 학계와 관련 업계는 AI가 만든 딥페이크 이미지에 역으로 AI 알고리즘을 적용해 이를 차단하는 방안을 추진한다. 이를테면 △ GAN으로 생성한 이미지에 다시 GAN 알고리즘을 적용해 위조 여부를 탐지하는 기술 △이미지 픽셀을 차례로 훑어 나가면서 픽셀의 고유값을 학습하는 원리의 CNN(합성곱신경망)을 활용한 위조 탐지 기술 △정상 이미지와 위조 이미지의 픽셀 패턴을 비교해내는 기계학습 알고리즘 등이 연구되고 있다.

하지만 딥페이크 위변조 기술의 진화 속도나 새로운 위변조 이미지 생성 속도가 워낙 빨라 탐지율을 높이기는 쉽지 않다. 페이스북은 2019년부터 전세계 연구자들을 대상으로 딥페이크 영상 탐지 기술 경연대회도 열고 있다. 지난해 대회에서 1위를 차지한 알고리즘은 탐지 정확도가 65%에 그쳤다. 페이스북은 계속 딥페이크 탐지 기술 연구용 영상 데이터셋을 업데이트하면서 탐지 연구를 장려하고 있다.
최근에는 기술진전도 이뤄지고 있다. 마이크로소프트는 지난 1월 세계 최대 가전 전시회 CES에서 영상의 퇴색 정도를 분석해 가짜뉴스 유포 방지용 딥페이크 영상물 탐지 기술을 선보였다. 국내에서도 신분증 등 정지 인물 이미지와 관련 삼성SDS 사내 벤처 팀나인과 최종원 중앙대 첨단영상대학원 교수 연구팀이 위변조 여부를 99.9%까지 판단하는 탐지 기술을 개발했다. 이들은 지난 4월부터는 보험 사기 등을 막기 위한 딥페이크 변조 사물 이미지 합성 기술로 연구를 확장했다. 이흥규 카이스트 전산학부 교수 연구팀도 자체 연구한 이미지 위변조 기술을 이용해 만든 딥페이크·사진 위변조 탐지 앱 서비스 '카이캐치'를 지난 3월 상용화했다.




재미와 감동 선사하는 '착한 딥페이크' 제작 시도인공지능(AI) 기반 이미지 합성 기술인 딥페이크가 보편화되면서 이를 긍정적으로 활용하는 방안에도 관심이 모아진다. 딥페이크의 근간 기술 GAN(생성적 적대 신경망)을 제대로 활용하면 각종 산업 등에서 새로운 부가가치를 창출할 수 있어서다.

딥페이크 기술을 응용하기에 가장 적절하다고 지목되는 분야가 바로 콘텐츠 산업이다. 실제 국내에서는 고인 모습을 복원해 추모하는 방송 콘텐츠 등이 시도됐다. CJ올리브네트웍스는 지난해 12월 그룹사 CJ E&M과 손잡고 엠넷(Mnet)의 방송 콘텐츠 'AI 프로젝트 다시 한번'에 기술 지원을 했다. 2008년 세상을 떠난 가수 터틀맨(故 임성훈)의 모습을 복원한 것이다. 같은 기술로 지난달에는 tvN 드라마 '나빌레라' 마지막회의 피날레 발레 공연 장면도 연출했다.

딥페이크로 창의적인 콘텐츠를 확장할 수 있는 가능성도 제시된다. 이를 시도한 대표적인 사례가 SBS 개그맨들이 만든 유튜브 그룹 '나몰라패밀리'다. 이들은 테슬라의 최고경영자(CEO) 일론 머스크의 얼굴을 딥페이크 합성해 만든 '나 일론 머스크' 시리즈를 지난 3월부터 자체 유튜브 채널에 올려 '대박'이 났다. 전남 영광 출신 51세 아저씨 설정의 나 일론 머스크씨가 전라도 사투리로 "테슬라 주식 '을른' 사아~"라던 이 영상은 두 달이 흐른 현재 약 220만회 재생됐다. 딥페이크로 합성한 만큼 머스크 본인이 말하는 것처럼 입모양도 따라서 움직인다. 이 시리즈는 최근 도지코인 가격을 쥐락펴락하는 머스크에 대한 풍자로까지 발전했다. 지난달 15일 공개된 악동뮤지션의 곡 '다이노소어(DINOSAUR)'를 개사한 '다 잃었소'를 비롯해 인기 가요를 개사한 영상들이 건당 재생 수 200만회씩을 기본으로 넘기며 가상자산 투자자들을 위로(?)하고 있다.
초상권 보호·의료 등 유용한 활용 연구해야아이러니하게 딥페이크로 만든 얼굴을 신상 보호나 초상권 보호를 위해 사용하는 방안도 시도되고 있다. 딥페이크 알고리즘이 아예 세상에 없는 얼굴도 만들어 낼 수 있다는 점을 활용한 것이다. 지난 2월27일 방송된 SBS '그것이 알고싶다'는 딥페이크 폐해를 조명하면서 인터뷰 참여자 얼굴에 딥페이크로 생성한 다른 얼굴을 모자이크 대신 덧입혀 화제가 됐다.
각종 교육이나 캠페인에 딥페이크를 사용하는 아이디어도 제시된다. 특히 역사 교육 분야에서는 교과서 속에서만 봤던 사료에 생동감을 준다면 교육 효과나 관심을 환기하는 효과가 클 것이라는 발상이다. 지난 3월 삼일절 무렵에는 유관순 열사·윤봉길 의사 등 순국선열의 생전 모습을 복원한 딥페이크 이미지가 화제를 모았다. 해외 온라인 족보 사이트 마이헤리티지의 '딥 노스탤지어' 서비스를 국내 누리꾼들이 활용해 만든 것이다. 도시락 폭탄 의거 직전의 윤봉길 의사가 결연한 미소, 처연한 눈빛의 유관순 열사가 눈을 깜박이는 모습 등이 움직이는 이미지(GIF)로 만들어졌다.

환자 치료에도 딥페이크를 활용할 수도 있다. 독일 뤼벡대 연구진은 2019년 딥페이크 알고리즘 GAN을 이용해 의료 영상에서 암을 판독하는 기술을 발표했다.

이승환 소프트웨어정책연구소 책임연구원은 지난해 '빅데이터로 본 딥페이크'라는 이슈리포트에서 "디지털 트윈 가수, 과거 재현, 광고 등 다양한 분야에 긍정적으로 활용하는 방안을 검토하되,딥페이크 적용시 우려되는 사생활 침해 등 다양한 위험을 고려해야한다"고 제언했다.