일출을 보기 위해 등산을 했다. 정상에 올라 이 세상을 환하게 밝혀줄 오늘의 태양을 기다렸다. 이윽고 기다리던 일출이 시작되며 어둡고 차가웠던 이 세상의 모든 공기를 붉게 물들인다. 구름에 가려져 자신의 모습을 제대로 보여주지 않는 태양이 조금은 원망스러웠지만, 구름 틈 사이로 빛을 뿜어내는 광경을 휴대폰으로 찍어 사진을 저장했다.
정상에서 내려와 휴대폰에 저장된 사진을 보니 역시 마음에 들지 않았다. 사진 편집 앱을 실행시켜 아주 멋스럽고 강렬한 빛으로 뜯어고친 후 SNS에 ‘#일출’이라는 해시태그를 걸어 업로드했다. 이렇게 보니 볼품없던 사진 한 장이 작품이 되었다.
자, 사람들은 이 사진을 보고 ‘멋진 사진’이라며 ‘좋아요’를 누르게 될 것이다. 아무도 그 사진이 진짜 일출인지 가짜인지 모른다. 전문가를 찾아가 굳이 진짜인지 물을 일도 없을 테니 편집된 이 사진 한장은 일출이라는 해시태그 속에서 영원히 존재하게 될 것이다.
지난해 제주도는 제12회 제주국제사진공모전을 진행했다. 대상 수상작은 ‘설원에 노루 나들이’로 선정되었지만 합성 의혹이 제기되었다. 재심의 결과 합성으로 판정되어 대상 수상 자체가 취소되었다. 사진을 출품한 작가 역시 합성이었다며 사실을 인정했다.
해당 작품은 ‘병풍처럼 펼쳐진 소나무 숲을 배경으로 눈 덮인 설원 위를 뛰어가는 노루 가족의 모습이 하나의 수묵화를 연상시키는 것 같다’라는 심사평을 받았다. ‘제주 자연의 깨끗함과 청정함을 잘 보여주는 작품’이라고 덧붙이기도 했다. 하지만 진짜가 아니었다. 노루가 합성되었으리라고 생각하지 못할 정도로 ‘진짜’ 같았던 편집 사진이었던 것이다.
오늘날 사진은 진위 여부를 가리기 힘들 정도로 자연스러운 결과물을 보여준다. 카메라의 성능은 물론이고, 사진을 보정시켜주는 테크놀로지 자체가 월등하게 진화했다고 볼 수 있다. 새로운 모델을 준비하는 스마트폰 제조사들은 통화 음질이 아니라 카메라에 대한 성능을 우선 언급하는 경우들이 있는데, 고작 세 자릿수 픽셀이 주름잡던 시대는 어느덧 과거가 되어버렸다. 1천만 화소를 훌쩍 넘어서는 카메라들이 일상화된 지 오래다.
더불어 사진 편집과 관련된 수많은 애플리케이션이 우리가 찍은 사진을 ‘단순한 보정’ 그 이상의 화려함과 강력함을 갖출 수 있도록 마법 같은 힘을 부여해준다.
사진을 편집해주는 요즘 애플리케이션들은 (조명 따위로) 어둡게 보이는 얼굴이나 밋밋하고 볼품없는 배경도 화려하게 만들어주곤 한다. 페이스북이나 인스타그램 등 SNS에 사진을 올릴 때에도 기본적인 보정 기능을 포함하고 있어 유저의 입맛에 맞게 좋은 사진을 업로드할 수 있도록 했다. 틱톡(Tiktok)과 같은 동영상 플랫폼도 기본적인 영상 편집 기능을 포함하고 있어 손쉽게 다룰 수 있도록 했다. 물론 별도의 편집 앱을 쓰면 정성을 다한 작업의 결과물이 멋스러운 ‘작품’으로 탄생하기도 한다.
최근 틱톡 추천 영상을 보다가 영화 속에서 봤던 장면들을 봤다. 그러나 실제 영화 주인공의 얼굴은 온데간데 없었고, 대신 유저들의 얼굴을 합성해 주인공이 된 듯한 모습으로 편집된 영상들이었다. 약간의 어색함은 있지만, 유저의 얼굴이 주인공의 얼굴 면적을 교묘하게 덮어 그럴듯하게 보였다. 일부 지인들도 영화 속 명장면에 자신들의 얼굴을 합성해 SNS에 띄우곤 했다.
그뿐만 아니다. 셀카를 찍으면 액세서리나 가발, 모자 등을 붙여 재미있게 만들어주는 편집 애플리케이션도 있다. 초등학생으로 돌아간 듯 자신을 어려 보이게 만들어주는 기능도 있다. 이제는 아예 영화 CG처럼 ‘합성’이 되는 시대가 되었다.
얼마 전에 가수 아이유의 모습과 닮은꼴의 중국 여성이 화제가 된 적이 있다. 일부 네티즌들은 실제 아이유로 착각하기도 했단다. 나 역시 그러했다. ‘차이유’라 불리는 중국 뷰티 크리에이터의 실제 모습은 아이유의 외모와 전혀 다른 모습이었다. 딥페이크(Deepfake)라 불리는 기술이 이 여성의 외모를 뒤바꾼 것이었다.
딥페이크란 무엇인가?
딥페이크는 기본적으로 인공지능 기술을 기반으로 한다. 심층학습이라는 인공지능 키워드 ‘딥러닝(Deep Learning)’의 ‘Deep’이라는 단어와 가짜라는 의미의 ‘Fake’를 합친 합성어다. 특정 인물의 얼굴은 물론이고, 목소리나 신체 부위 등을 사진과 영상으로 교묘하게 합성한 편집 결과물이 바로 딥페이크다.
위 사진에서도 볼 수 있듯, 로버트 드니로의 모습이 딥페이크를 만나면 마치 전성기 시절로 돌아간듯한 착각을 일으키게 한다. 뷰티 업계에서는 노화방지라는 의미로 안티에이징(Anti-Aging)이라는 키워드를 쓰는데, 영화 속에서 나이를 젊어 보이게 만들어주는 것을 두고 ‘디에이징’이라고도 한다.
영화 속에서 컴퓨터 그래픽(CG)을 포함한 특수 제작 기술(SFX)로 가상의 모습을 살아 숨쉬는듯한 현실로 만들어주는 경우들이 있다. 딥페이크 역시 CG 처리하듯 합성한 결과물을 자연스럽게 표현한다. 카메라를 응시하듯 얼굴이 노출되면, 이를 프레임 단위로 쪼갠 세부 단위마다 다른 사람의 얼굴을 합성시켜 품질을 향상시키는 방식이다. 그만큼 자연스럽게 합성이 되면서 얼굴의 움직임에 따라 어색함이 없이 따라붙는다는 것.
보다 고도화된 딥페이크라면 영화나 드라마 제작에 매우 큰 도움이 될 수 있을법한 기술이다. 전성기 시절과 달리 이미 나이가 들어 주름진 얼굴을 보여주는 아놀드 슈워제네거가 건장한 터미네이터 역할을 한다면, 과거의 모습을 되살리기는 어려울 것이다. 자연의 섭리라 그 누구도 거스를 수 없다. 그러나 딥페이크 기술이 발달하면 우린 매우 자연스러운 20대 시절의 아놀드를 만날 수도 있다는 것이다. 실제로 아놀드 슈워제네거가 등장하지 않았던 <터미네이터 : 미래 전쟁의 시작>에서도 CG 기술로 그의 모습을 드러내기도 했다(개인적으론 어색하다고 느꼈다)
고인이 되어버린 명배우들을 딥페이크 기술로 온전하게 되살릴 수도 있다. <분노의 질주>에서 놀라운 액션 연기를 펼친 폴 워커는 실제 자동차 사고로 세상을 떠났다. 그런데 <분노의 질주 : 더 세븐> 엔딩 시퀀스에 그의 마지막 모습이 등장했다. 폴 워커와 닮은 실제 형제가 차량에 탑승했고, 여기에 몰라볼 정도의 CG를 씌워 자연스럽게 표현한 것이다.
액션 영화에서도 실제 주인공과 아주 흡사한 대역 배우들이 액션을 펼칠 때가 있다. 이는 현란한 촬영 기술과 전문적인 편집 능력을 적절하게 믹스해서 사용한다. 딥페이크 기술이 영화를 포함한 콘텐츠 제작에 있어 미약한 부분을 보완해줄 수 있다는 잠재력만 보면 분명히 긍정적인 면도 있는 셉이다.
딥페이크는 2017년 소셜 뉴스 웹사이트인 ‘레딧(Reddit)’에서 처음 쓰인 키워드라고 한다. 지금처럼 자연스러웠던 것은 아니었을 테니 조악한 영상들이 나뒹굴었을 것이다. 유명인의 얼굴이나 몸을 뒤바꾸는 케이스들이 빈번했는데 심지어 포르노 배우 몸에 유명인의 얼굴을 합성하는 악용 사례까지 번지기도 했다.
기술의 발전이 이룩한 딥페이크, 무엇이 진실이고 무엇이 가짜인지 모호한 경계선
기술의 발전으로 인해 무엇이 진실이고 가짜인지 판별하기 어려울 정도가 되었다. 어떤 곳에서는 진짜 같은 가짜 뉴스가 생산되어 SNS를 타고 널리 널리 퍼지는 시대가 되어버렸다. 누군가의 민낯이 누군가의 화려한 외모로 바뀌어 영상과 사진들에 좋아요를 누르는 시대가 되었다. 거짓 음란물이 만들어지는 순간, 테크놀로지의 본질은 파괴되고 괴물이 되어버린다.
이러한 악용 사례는 테크놀로지가 만들어버린 디지털 범죄이며, 사회적으로 심각하게 바라봐야 할 부작용이다. 매우 당연하지만 박스오피스에 새 영화를 들고 나온 배우들의 얼굴이 한 번도 보지 못한 누군가의 나체 위로 합성이 된다면 기분이 어떨까? 이 때문에 피해를 호소하는 연예인, 인플루언서 등의 셀럽들 그리고 정치인들까지 국내외로 급증하는 추세다. 위에서도 짧게 언급했듯, 딥페이크라는 테크놀로지가 현시대의 강력한 유통 플랫폼인 SNS를 타고 흐르면 막아내기가 쉽지 않다.
어느 해외 미디어에서는 ‘테크놀로지의 눈부신 발전에도 이를 우회하는 잠재적 범죄자가 늘 존재할 것’이라고 했다. 딱히 틀린 말도 아니다. 인공지능을 포함한 신기술은 누가 어떻게, 어떤 목적으로 활용하느냐에 따라 인류의 삶을 윤택하게 만들어줄 장치가 되기도 하고, 사회적 체계 자체를 무너뜨리는 위험 요소가 될 수도 있다.
혹자는 이야기한다. 허위 정보, 가짜 뉴스가 뿌리 뽑히지 않고 꾸준하게 등장한다면 결국 이를 흡수할 우리가 지혜를 가져야 한다는 것이다. 21세기 정보화 시대, 진짜든 가짜든 데이터가 넘치는 이 시대에 양질의 정보만 존재할 순 없다. 급속도로 발전하는 테크놀로지의 변화에 제대로 대처하려면 법적으로, 제도적으로도 일정한 규제가 있어야 할 것이다. 다만 그것이 테크놀로지의 발전을 저해하는 악법이 되진 말아야 하겠다.
일전에 논란이 되었던 인공지능 이루다의 문제나 딥페이크 기술 등, 테크놀로지가 편법으로 악용되는 사례를 감지할 수 있도록 또 다른 기술들이 개발되고 있다고 한다. 실제로 페이스북, 마이크로소프트, 구글 등은 딥페이크와 같은 위험 요인을 차단하기 위한 개발이 진행 중이고, 텍사스 주를 포함한 미국의 일부 지역에서는 딥페이크를 금지하는 법안까지 마련되고 있단다.
그래도 잠재적인 위협은 테크놀로지의 발전과 늘 공존하게 될 것이다. 우주의 진리를 밝게 보는 눈, 사물을 꿰뚫어 볼 수 있는 안목과 식견, 이를 두고 ‘혜안’이라고 한다. 테크놀로지를 수용하는 우리 역시 폭넓은 인사이트를 가져야 하겠다.
원문: Pen 잡은 루이스의 브런치
※ 아래 사이트의 기사를 참고하여 작성했습니다. 미국에서는 지난 해 이미 논란이 되었고, 딥페이크와 관련된 수많은 기사가 작성되었습니다. 딥페이크에 대한 이슈는 현재진행형입니다.
- (2019.10.7), sentinelone.com
- (2020. 10.2), technologyreview.com
이 필자의 다른 글 읽기
