오는 6월 지방선거를 앞두고 인공지능(AI) 기술을 악용한 ‘딥페이크(Deepfake)’ 선거운동이 위험 수위를 넘나들고 있다.

급기야 도널드 트럼프 미국 대통령이 국내 지방선거 후보를 지지하는 듯한 합성 영상까지 등장하면서, 선거 공정성 훼손은 물론 외교적 마찰 우려까지 제기되는 실정이다.

최근 사회관계망서비스(SNS)를 중심으로 확산된 영상 하나가 경북지역 정치권을 발칵 뒤집어 놓았다.

영상 속 도널드 트럼프 미국 대통령은 백악관 집무실로 보이는 장소에서 경북도지사 예비후보 A씨의 선거 홍보용 사진을 들어 보이며 마치 지지 의사를 밝히는 듯한 포즈를 취하고 있다.

얼핏 보면 미국 대통령이 특정 한국 후보를 공식 지지하는 것처럼 보이지만, 이는 AI 기술로 제작된 합성물로 밝혀졌다.

이 영상은 예비후보 A씨의 지지자가 게시한 것으로 파악됐으며, 제작 경위는 아직 베일에 싸여 있다.

이를 접한 경북도민들은 “가짜 뉴스가 판치는 세상이라지만 미국 대통령까지 이용하는 것은 선을 넘었다”며 혼란스러워하는 반응이다.

전문가들은 이러한 행위가 단순한 해프닝을 넘어 한미 관계에 대한 부적절한 오해를 부를 수 있다고 경고한다.

외교가 한 관계자는 “해외 정상의 이미지를 무단 도용해 특정 후보의 정치적 자산으로 활용하는 것은 국가적 망신이자 외교적 결례”라고 지적했다.

선거관리위원회는 딥페이크를 활용한 허위 사실 유포에 대해 ‘무관용 원칙’을 적용하고 있다.

특히 가상 정보임을 알리는 표기 없이 당선 목적으로 허위 사실을 유포할 경우, 공직선거법 제250조 제4항에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해질 수 있다.

취재 결과, 울산 남구 선거관리위원회는 지난 1월 발생한 AI 영상 유포 사례와 관련해, 해당 영상에 ‘AI 생성물’임을 명시하지 않은 행위에 대해 500만 원의 과태료 부과 처분을 내린 것으로 확인됐다.

이는 딥페이크 영상 표기 의무 위반에 대한 실질적인 제재 사례로, 향후 유사 사례에 대한 강력한 경고 메시지가 될 전망이다.

문제는 딥페이크 영상이 유권자의 인지 편향을 파고든다는 점이다.

“보는 것이 믿는 것”이라는 대중의 심리를 악용해, 사실관계 확인이 어려운 고령층이나 중장년층 유권자들에게 특정 후보가 국제적 위상을 갖춘 것처럼 착각하게 만든다.

선관위 관계자는 “해외 정상의 발언이나 행동을 조작해 지지를 연출하는 행위는 민주주의의 근간인 선거 공정성을 뿌리째 흔드는 일”이라며 “표기 의무 위반은 물론 허위 사실 공표에 대해 사이버 수사팀을 가동해 엄정 대응하겠다”고 밝혔다.

6월 지방선거가 다가올수록 고도화된 AI 기술이 선거판의 ‘게임 체인저’가 아닌 ‘파괴자’가 될 수 있다는 우려가 깊어지고 있다.

가짜와 진짜의 경계가 무너진 기술의 시대, 유권자들의 냉철한 안목과 더불어 당국의 실효성 있는 규제가 절실한 시점이다.