‘모나리자 동영상’과 ‘취한 펠로시’ 가짜 범람시대?

삼성전자 러시아 모스크바 AI연구센터와 러시아 스콜코보과학기술연구소가 공동개발한 이미지 변환기술 ‘말하는 얼굴 동영상(talking head videos)’을 이용해 만든 모나리자의 동영상. 유튜브.

[구본권의 사람과디지털]
사진 한 장으로 동영상 만드는 인공지능 등장
재생속도 늦춘 ‘조작 영상’ 정치적 목적 악용
늘어날 ‘가짜정보’ 환경에선 비기술적 접근 필요

지난 1주일새 인공지능과 소셜미디어 영역에 새로운 유형의 ‘가짜 영상’이 등장해 관심을 모았다.

#1. 모나리자의 웃는 동영상이 등장했다.

삼성전자 러시아 모스크바 AI연구센터와 러시아 스콜코보과학기술연구소가 공동개발한 이미지 변환기술 ‘말하는 얼굴 동영상(talking head videos)’의 결과물이다. 해당 기술은 사진이나 그림처럼 얼굴 이미지 한 장으로도 말하고 웃음짓는 등 자연스러운 표정의 동영상을 만들어 낼 수 있다. 이에 관한 연구논문이 최근 인터넷 논문공개 사이트인 아카이브(arxiv.org)에 게재되면서 모두에 공개됐다. 해당 기술은 화상통화나 온라인 게임, 공상과학 영화 등에 폭넓게 이용될 수 있다. 2017년 말 공개된 영상합성 기술 ‘딥페이크(deepfake)’가 기존 동영상에 조작 대상 인물의 얼굴을 프레임마다 삽입해 만들어낸 것과 달리, 이번 기술은 별도의 3차원 모델링 과정과 동영상을 필요로 하지않는 게 특징이다.

낸시 펠로시 미국 하원의장의 동영상을 의도적으로 느리게 재생하는 방식으로 조작한 가짜뉴스. CNN. ▶ 유튜브 동영상 바로가기

#2. 미국 하원의장이 술에 취해 연설을 얼버무리는 영상이 빠르게 확산됐다.

지난 22일(현지시각) 미국 낸시 펠로시 하원의장(민주당) 미국 진보센터 행사에 참석해 술에 취해 혀가 꼬인 듯한 어투로 말하는 동영상이 소셜미디어를 통해 확산됐다. 연구자들은 문제의 동영상이 재생 속도를 의도적으로 느리게 편집해 정상어투와 표정을 만취한 모습으로 보이게 했다는 사실을 밝혀냈다.
유튜브는 지난 23일 오후 문제의 동영상에 대해 “명백한 규정 위반”이라고 밝히고 바로 삭제했다. 트위터는 해당 동영상과 관련해 명시적 입장 표명을 거부했다. 트위터의 게시물 정책은 투표 조작의도 등이 분명하지 않은 정치인의 정확하지 않은 발언을 허용한다. 트위터에는 펠로시를 취한 상태로 묘사한 게시물이 남아 있다. 페이스북은 24일 해당 영상을 삭제하기 않겠다고 밝혔다. 페이스북은 “동영상 자체가 온라인 커뮤니티의 기준을 위반하지 않았으며, 페이스북은 표현의 자유와 안전한 온라인 커뮤니티의 균형을 추구한다”는 입장을 공개했다. 이에 앞서 페이스북의 독립 팩트체킹단체인 리드 스토리(Lead Stories)와 폴리티팩스(PolitiFact)는 해당 영상을 ‘거짓’이라고 판정했다. 페이스북은 삭제하지 않는 대신 뉴스피드에서 해당 영상의 노출을 크게 줄였으며, 이용자가 공유하고자 할 때 위 두 팩트체킹 단체 사이트로 연결되는 자그마한 정보상자를 첨부했을 따름이다.

일주일 동안 새로 알려진 인공지능과 소셜미디어의 이미지 생성조작 기술은 앞으로 다중의 정보이용 현실에 어떤 영향을 끼치게 될까?

사진 한 장으로 동영상을 만들어내는 ‘말하는 얼굴 동영상’ 기술이 새로운 차원의 가짜뉴스와 조작 동영상의 홍수를 가져올지에 대해서는 전문가들의 의견이 엇갈린다. 미국의 정보기술 전문지 <와이어드>가 보도한 바에 따르면, 인공지능 딥페이크 기술의 수준이 계속 개선되지만 현재 수준에서는 조작 여부를 판별하는 게 어려운 일이 아니다. 하버드대-MIT 인공지능 윤리거버넌스 책임자인 팀 황 박사는 <와이어드>와의 회견에서 “가까운 시일은 물론, 상당히 오랜 뒤에도 집에서 간단하게 딥페이크 영상을 만들어낼 것으로 보지 않는다”며 딥페이크를 만들어내려면 여전히 많은 비용과 높은 기술수준, 노하우라는 장벽이 존재한다고 말했다.

텍사스대의 법학교수 로버트 체스니는 “정치적 목적 달성에는 최첨단 기술이 필요하지 않으며 상대를 완전히 속일 필요도 없이 혼란을 야기할 수 있는 저품질 콘텐츠도 역할을 할 수 있다”고 <와이어드>를 통해 밝혔다. 그 사례가 펠로시의 동영상이다. 원본을 훼손하거나 조작 영상을 만들지 않고 단지 느리게 재생하는 것만으로도 정치적 목적을 달성한 사례다. 정치적 선동가들은 실용주의자이기 때문에 현재의 편집 도구로 충분히 저렴하게 조작 영상을 만들 수 있는 상황에서 값비싼 첨단 기술을 활용할 동기가 없다는 측면도 있다.

이번에 사진 한 장으로 만들어진 마릴린 먼로의 동영상을 분석한 류 시웨이 뉴욕주립대 교수는 손쉽게 조작 여부를 판가름할 수 있다고 말한다. 동영상에서 먼로가 고개를 젖히며 웃을 때 먼로의 입가 점이 사라지고 배경의 어색함 등이 판단 근거의 일부다. 연구자들도 장기적으로 딥페이크의 기술적, 비용적 장벽이 낮아질 것이라는 데는 동의한다.

하지만 최근 일련의 기술계의 동향은 허위 조작정보를 기술적 방법 위주로 식별하고 차단하려는 시도가 이내 한계에 부닥친다는 것을 알려준다. 콘텐츠를 이용하는 사람들이 해당 콘텐츠의 기술적 측면보다 전체적인 배경과 맥락 속에서 이를 이해하려는 노력이 더 중요해지고 있다.

구본권 선임기자 [e-mail]