제 730 호 딥페이크의 양면성
딥페이크란 무엇인가
누구나 한 번쯤 ‘딥페이크’라는 용어를 들어본 적이 있을 것이다. ‘딥페이크’란 인공 지능이 스스로 학습하는 기술인 ‘deep learning’과 가짜를 뜻하는 ‘fake’의 합성어로 인공 지능 기술을 활용하여 기존 인물의 얼굴이나 특정 부위, 목소리 등을 합성한 영상이나 사진, 음성 편집물을 의미한다.
우리 삶에서 볼 수 있는 딥페이크 기술
최근 공개된 넷플릭스 시리즈 ‘살인자ㅇ난감’에서 손석구와 아역 배우의 얼굴이 높은 싱크로율을 보여 화제가 되었다. 이는 딥페이크 기술을 사용한 것으로 아역 배우의 연기에 손석구 배우의 어린 시절 사진을 합성한 것이다.
▲김주하 앵커와 AI 앵커 (출처:https://youtu.be/k8X_Em-NQn0?si=JjMdXfjpJM8w7gs6)
또한 종합 편성 채널 MBN에서는 딥페이크 기술을 통해 2020년 국내 최초로 김주하 앵커를 모델로 한 AI 앵커를 선보였으며, 현재까지 AI 앵커를 활용하여 뉴스를 진행하고 있다.
▲ ‘AI 음악 프로젝트 ‘다시 한번’ 의 방송 화면 (사진출처: https://youtu.be/Jm0s0CEEd3Q?si=fxwxB9oQb5CvYZqm)
2020년 엠넷에서 방영된 ‘AI 음악 프로젝트 다시 한번’ 은 고인이 된 가수의 현재 목소리와 모습을 구현하여 시청자에게 감동과 향수를 불러일으켰다. ‘다시 한번,’이 방영되고 난 후 프로그램에 출연한 가수 거북이의 음원 평균 스트리밍은 169%나 증가하여 가수 거북이에 대한 시청자들의 지속적인 관심을 확인할 수 있었다. JTBC 드라마 ‘웰컴투 삼달리’에서도 딥페이크 기술을 활용하여 극에 故 송해를 등장시켰다. 드라마 제작진은 故송해에 대한 그리움을 시청자와 나누기 위해 故 송해를 재현해 냈다고 밝혔다. 이는 딥페이크 기술이 우리 삶에 새로운 패러다임을 창조할 수 있는 혁신적인 기술로서 사람들에게 긍정적인 영향을 주고 있음을 보여준다.
딥페이크의 어두운 면
하지만 최근 딥페이크를 이용한 범죄나 부정적으로 쓰이는 사례들 또한 늘고 있다.
점차 발전하는 기술로 인해 구분하기 힘들 정도로 활용 범위는 확대되고 있으며, 예전에는 전문가가 높은 난이도로 기술을 구사했던 때와 다르게 지금은 누구나 쉽게 딥페이크 기술을 접할 수 있다. 관련 앱도 많으며 저렴한 가격으로 얼굴 바꾸기, 성별 바꾸기 등 기능을 제공하기도 한다. 이는 관련 범죄가 늘어날 가능성도 커진다.
악용되는 딥페이크 기술 사례들
작년 연말 X(트위터)의 한 계정이 올린 미국의 가장 대중적인 가수 중 하나인 테일러 스위프트의 얼굴을 합성한 딥페이크 이미지가 다른 소셜 미디어들에서도 빠르게 확산되며 다시 한번 딥페이크에 대해 경각심을 더욱 키우는 사례가 있었다. 단순히 유명인들을 대상으로 악용하는 사례들뿐만이 아니다. 현재까지도 금융사기, 음란물, 가짜 뉴스 등에 악용되고 있다. 특히나 딥페이크가 일반인을 상대로 악용되면서 기술을 이용한 음란물이 제작되거나 유포되었을 경우 피해자가 피해 사실조차 인지하기도 어렵고, 법적 처벌하기도 쉽지 않다.
선거철 딥페이크 기술의 영향
특히나 올해 4월 10일 총선이 이루어지며 우리나라 정부도 딥페이크 영상 선거운동의 영향을 고려하여 지난 12월 규제를 마련했다. 본인의 당선이나 다른 후보의 낙선을 위해 사용하는 것과 제3자가 특정 후보의 당선 및 낙선을 위해 딥페이크물을 제작하고 유포하는 행위 등을 금지하는 것이다.
하지만, 2월 19일 중앙선거관리위원회(선관위)에 따르면 1월 29일부터 2월 16일까지 19일간 유권자를 상대로 딥페이크 기술을 사용하여 선거 운동 행위로 공직선거법을 위반한 게시물은 무려 129건에 달했다고 밝힌 바 있다. 대부분 후보가 나오는 동영상을 조작하거나 발언을 왜곡하여 SNS에 유포한 경우이다. 하지만 모니터링을 하는 인력에 비해 딥페이크물을 만드는 시간은 비교적 짧은 시간이 걸리기 때문에 한계가 있어 아직 적발되지 않은 총선 관련 딥페이크물은 더 많을 가능성도 있다. 게다가 네이버, 카카오톡 등 국내 기업들은 아직 명확한 정책이 규정된바 없다. 선거관리위원회에서 신고가 들어온다면 후속적인 조치를 하겠다는 입장을 밝히고 있다.
우리나라뿐만이 아니다. 이미 해외에서도 비슷한 사례들이 존재한다. 대표적인 사례로 1월에 미국 뉴햄프셔주에서 유권자들에게 예비선거 투표거부를 독려하는 내용의 조 바이든 대통령의 가짜 목소리로 전화가 걸려와 혼란을 일으켰다. 이러한 딥페이크의 문제에 대해 2월 16일 오픈 AI•틱톡•아마존 등 20개의 빅테크 기업들이 독일 뮌헨안보회의(MSC)에서 합의문을 발표했다. 각 플랫폼에서 유포되는 허위정보들을 탐지하는 정책을 마련하고, 실제같은 AI 콘텐츠에 유권자를 속이는 콘텐츠에 별도의 라벨을 표시하는 등 조치를 취하겠다고 밝혔다. 하지만 내용이 모호한 데다 구속력이 없고, 콘텐츠를 금지하거나 삭제하기로 한것은 아니기 때문에 한계가 존재하기 때문에 방안이 별도로 필요한 상황이다.
이처럼 딥페이크 기술은 좋은 방향으로 쓰인다면 무궁무진하게 쓰일 수 있는 기술이다. 그만큼 학우들도 딥페이크의 양면성을 인지하고 보안에 대한 경각심을 가지는 것은 요즘 현대 사회에서 꼭 필요한 자세라고 할 수 있다. 그리고 앞으로도 딥페이크 기술은 발전되어 우리의 일상에서 더 다양한 형태로 다가올 것이기 때문에 어떻게 기술이 사용될 수 있는지에 대해서도 적극적으로 관심을 가지고 찾아보아야 한다. 이러한 노력과 관심들이 더욱 안전한 온라인 환경을 조성하는 데 도움이 될 것이다.
김현지, 신희원 기자
