【 앵커멘트 】
우리동네 국회의원을 뽑는 4월 총선이 한 달 앞으로 다가왔습니다.
최근 선거판을 흔들 수 있는 변수로 꼽히는 것이 있는데, 바로 '딥페이크' 입니다.
인공지능(AI)이 실존 인물을 학습해 실제와 같게 만든 합성 영상이나 음성을 뜻하는데 선거를 치른 다른 나라에서도 이미 문제가 됐습니다.
우리나라도 예외는 아닌데, 딥페이크 대응책은 없는지 채해원 기자가 짚어봤습니다.
【 기자 】
지난달 방송통신심의위원회 심의에서 삭제, 접속 차단 결정이 내려진 영상입니다.
【 현장음 】
"무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았습니다."
해당 영상은 윤석열 대통령이 대통령 후보 시절 연설을 짜깁기한 가짜로 판명됐습니다.
【 인터뷰 】최정자 / 서울 동작구
"저도 그 소리 듣고 깜짝 놀랐어요. 윤석열 대통령이 무슨 얘기를 한다고. 저 같으면 안 믿지만 (다른 사람들은 내용을) 믿을 수도 있을 것 같아요."
해당 영상은 한때 총선 전 대통령을 겨냥한 첫 딥페이크물로 보도됐습니다.
실존 인물을 인공지능(AI)이 학습해 실제와 같게 합성 영상이나 이미지를 만드는 딥페이크.
인공지능 기술 발달로 더 정교해지면서 전 세계 곳곳에서 딥페이크로 만든 가짜 콘텐츠가 논란입니다.
총선을 앞둔 우리나라도 딥페이크가 선거 변수로 떠오르는 가운데 시민들은 어떻게 생각할지 물었습니다.
【 인터뷰 】최유나 / 서울 중랑구
"SNS나 쇼츠 플랫폼 같은 데서 (딥페이크를) 본 적이 있어요. 진짜인지 아닌지 구별하기가 좀 힘들어서 유권자들에게 영향이 있지 않을까 생각됩니다."
【 인터뷰 】김주남 / 서울 중구
"딥페이크에 대해서 알고 계신 분들은 그래도 한 번씩 생각해 보실 것 같은데 그런 것이 존재하는지도 모르시는 분들은 휩쓸릴 가능성이 클 것이라고 생각합니다."
【 인터뷰 】장기석 / 경기 수원시
"걱정이에요. 제가 생각하기에도. (딥페이크를) 가릴 줄 알아야 하는데. 우리처럼 노인들은 그걸 잘 모르고 지나가요."
유권자들의 혼란을 유발하는 딥페이크, 선거 결과에도 영향을 미칠 수 있다는 우려가 나옵니다.
【 인터뷰 】김명주 / 서울여대 정보보호학과 교수
"총선 같은 경우는 진짜 100표, 200표로 당락이 뒤바뀐 경우가 많아요. 그런 경우에 딥페이크를 이용해서 선거에 잘못된 영향을 주면 선거 1, 2위가 얼마든지 바뀔 수 있는 거죠."
지난 대통령 선거까지 허용됐던 딥페이크 기술을 활용한 선거운동은 이번 총선부터는 선거 90일 전부터 전면 금지됐습니다.
하지만 선거 관련 딥페이크 물은 계속 등장하고 있습니다.
1월 말부터 약 한 달간(1월 29일~2월 27일) 중앙선거관리위원회에 적발된 선거 관련 딥페이크 물만 129건, 대부분 특정 지역구 후보의 지지나 낙선을 바라고 올린 조작 영상이었습니다.
【 인터뷰 】임준혁 / 중앙선거관리위원회 사이버조사과 사무관
"후보자가 하지 않은 말을 후보자가 한 것처럼 표현한 영상들이나 혹은 후보자의 얼굴을 합성해서 이뤄지는 페이스 스와프 형태, 그리고 후보자의 목소리를 학습해서 딥보이스로 게시물을 올리는 경우 등 그런 경우들을 저희가 조치하는 것으로…."
국내외 주요 IT기업들도 조치에 나섰습니다.
글로벌 빅테크 기업들은 유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표(label)를 붙이는 등의 식별 표시를 하기로 했고,
국내 한 포털 기업은 딥페이크 제작과 관련된 단어를 검색하면 공직선거법 위반 여부를 조심하라는 경고 문구를 표시하고 있습니다.
정치권도 딥페이크 관련 모니터링에 집중하는 등 대응에 부심하고 있습니다.
선거일에 임박하면 할수록 딥페이크 콘텐츠는 악의적으로 유포될 가능성이 높은 상황, 전문가들은 유권자들이 잘 가려내야 한다고 당부합니다.
【 인터뷰 】김명주 / 서울여대 정보보호학과 교수
"확증 편향에 의해서 그것(딥페이크)을 퍼 나릅니다. 이게 문제죠. 유권자들이 딥페이크에 관한 경각심을 많이 가졌으면 좋겠고 딥페이크를 가지고 선거운동하는 사람들의 말로가 별로 좋지 않다는 사례를 유권자들이 보여줬으면 좋겠습니다."
딥페이크를 게시하거나 퍼나르다 적발되면 7년 이하의 징역이나 최대 5,000만 원 이하의 벌금형에 처해질 수 있습니다.
TBS 채해원입니다.
