이젠 선거 영상까지, 선 넘은 AI '딥페이크'

서울경찰청, 민주당 측 고발권 관련 14명(6건) 수사중…선관위도 특별대응팀 꾸려

[프라임경제] 딥러닝(Deep Learning)과 페이크(Fake)의 합성어, '딥페이크(Deepfake)'. 제 21대 대통령선거가 오는 6월3일로 정해지면서 대선 후보자들이 딥페이크로 골머리를 앓고 있다. 인공지능(AI) 기술로 이미지를 합성해 실제처럼 보이도록 조작한 실제가 아닌 영상 딥페이크가 이제는 정치권에서 문제다. 딥페이크 활용에 조속한 제재가 필요하다는 지적이 잇따른다.

챗지피티 생성형 이미지.

21일 서울 종로구에 위치한 서울경찰청은 민주당 측 고발권과 관련, 딥페이크 영상물 제작 및 게시와 관련한 14명 총 6건에 대해 서울경찰청 사이버수사대가 수사 중이라고 밝혔다. 

선거관리위원회(이하 선관위)도 최근 선거 특별대응팀 내 '허위사실비방 딥페이크 검토자문단'을 꾸려 AI 기술을 활용한 허위 콘텐츠 단속에 나섰다. 

21대 대통령 선거에 출마하는 이재명 예비후보는 딥페이크 허위 영상물로 고통 받아왔다. 지난 11일 이재명 더불어민주당 예비후보 선거대책위원회는 딥페이크 영상 등 허위조작정보가 적발될 시 유포 중지 가처분, 고발 등 법적 책임을 끝까지 묻겠다고 전했다. 이후 5일 만에 강득구 더불어민주당 이재명 대통령선거 예비후보 선거대책위원회 현안대응TF단장 등은 지난 16일 서울경찰청에 딥페이크 영상 유포자의 고발장을 접수했다.

전 윤석열 대통령도 딥페이크 영상물로 곤혹을 겪었다. 방송을 하는 것 같은 윤 전 대통령의 모습, 수영복을 입은 윤 전 대통령 부부의 모습 등이 마치 실제 영상처럼 재생됐다.

경찰과 선관위는 딥페이크를 활용한 불법 선거운동이 적발될 시 엄중하게 처벌하겠다고 밝혔다. 지난해 1월 AI로 만든 허위 영상물을 제재하기 위해 개정 공직 선거법이 시행됐지만, 선관위는 지난해 총선 당시 딥페이크 선거운동 게시물 391건을 적발했다. 388건을 삭제하고 2건을 준수종용하고 1건을 경고 조치했다.개정 공직 선거법에 의하면, 선거일 90일 전부터는 선거운동을 위한 AI 영상 제작과 유포를 금지하는 내용을 담아 위반 시 최대 징역 7년형까지 받을 수 있다.

딥페이크로 곤혹스러운 건 우리나라뿐만이 아니다. 2024년 유럽연합(EU) 선거를 앞두고, 수천 개의 딥페이크 광고가 페이스북을 통해 유포됐다. 이 광고로 인해 유럽 정치인들의 이미지를 조작됐다. 허위 정보가 전 세계로 퍼졌다.

동일하게 미국 대선 전에도, 조 바이든 미국 전 대통령의 딥페이크 음성이 포함된 자동응답 전화가 유권자들에게 발송된 적 있다. 해당 음성에는 유권자들에게 투표를 하지 말 것을 권유하는 내용이 담겨 있었다. 연방통신위원회(FCC)는 이에 대해 해당 딥페이크를 제작한 정치 컨설턴트에게 600만달러의 벌금을 부과하고 형사 기소를 진행했다. 

업계 관계자는 "최근엔 무료로 생성형 이미지를 만드는 등 AI의 사용이 더욱 활발해졌다"며 "무료로 가짜 이미지와 영상을 제작할 수 있게 돼, 연예인과 정치인 등 얼굴과 목소리가 알려진 유명인들이 가장 많이 피해자가 되지만 이제는 일반인들에게도 피해의 범위가 넓어진 상황"이라고 말했다. 

이어 "특히 대선의 경우 각 후보들의 공략을 비롯해 정치의 방향성이 존재하는데 허위로 조작한 영상 및 거짓 발언을 유포할 경우 대선 활동에 타격을 입게 된다"며 "이와 관련한 정부 기관의 강력한 규제가 필요하다"고 말했다.