기사 상세
2023년 개정된 공직선거법은 딥페이크 등 인공지능 기반 콘텐츠를 겨냥한 강력한 규제를 도입하며 새로운 기준을 제시했다. 하지만 표현의 자유를 제약한다는 우려와 더불어 모호성, 형평성에 대한 논란도 제기되고 있다. 공직선거법상 AI 딥페이크 규제의 쟁점과 한계를 짚어본다. 편집자 주
2023년 12월 28일 공직선거법 개정으로 공직 선거 과정에서의 AI 사용 규제가 도입됐다. 보다 정확하게 말하자면, 규제의 대상은 모든 AI 사용이 아니라 실제와 구분하기 어려운 가상의 음향·이미지·영상으로 이른바 ‘딥페이크’ 문제로 한정된다. 이로 인해 일부에서는 개정된 법 조항을 「딥페이크 영상 선거운동 금지법」이라 명명하기도 한다.1) 핵심 조항인 공직선거법 제82조의8 제목 역시 ‘딥페이크영상등을 이용한 선거운동’이다. 이러한 사실을 전제로 현행 공직선거법상 AI 사용 규제가 가지고 있는 특징을 세 가지로 정리해 보았다.
첫째, 한시적 전면 금지다. AI를 사용한 딥페이크 제작 등이 금지되는 기간은 선거일 전 90일부터 선거일까지다(제82조의8 제1항). 이 기간에는 내용의 진위를 불문하고 AI를 사용한 딥페이크 제작·편집·유포·상영·게시가 일절 금지된다. 내용의 진위를 불문한다는 점과, 유포·상영·게시 이외에 제작 및 편집까지 제한한다는 점에서 ‘전면’ 금지라 할 만하다. 규제를 위반하면 고강도의 처벌을 받을 수 있다(제255조 제5항). 법정형이 무려 7년 이하의 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금이다.
둘째, 상시적 표시 의무 부과다. AI 사용이 전면 금지되는 기간이 아니라면 AI 사용은 비교적 자유롭다. 다만, AI가 사용된 사실을 제작된 딥페이크 영상·이미지·음향에 표시해야 한다(제82조의8 제2항). 표시하고 싶지 않으면 안 해도 되는 재량 사항이 아니다. 의무이며 위반 시 1,000만 원 이하의 과태료가 부과된다(제261조 제3항 제4호). 아무렇게나 표시하면 안 되고 중앙선거관리위원회(이하 중앙선관위)에서 정한 기준을 준수해야 한다.
셋째, 허위 사실은 가중처벌한다. 허위사실공표죄(제250조)는 이미 있던 규정이다. 그런데 AI를 사용한 딥페이크 영상·이미지·음향에 후보자 및 주변 사람에 대한 허위 사실이 포함돼 있으면 가중처벌하는 조항이 2023년 법 개정 당시 신설됐다(제250조 제4항). 허위사실공표죄 법정형 중 벌금액이 1.6~2배 상향됐다.2) 특이한 점은 표시 의무 위반이 가중된 허위사실공표죄 범죄구성요건의 핵심이라는 것이다. 허위 사실이라 하더라도 딥페이크임을 표시했으면 가중처벌되지는 않는다.
AI 선거 규제, 첫 위반 사례 잇따라
법 개정 이후 제21대 대선이 이미 끝났고 현재도 제9회 전국동시지방선거 일정이 진행 중이다. 당연히 다양한 유형의 규정 위반 사례가 확인되고 있을 것이다. 제21대 대선 직전이었던 2025년 5월 29일 유튜브 채널 운영자를 포함한 3명이 중앙선관위에 의해 경찰에 고발됐다. 이들에게 적용된 조항은 공직선거법 제255조 제5항으로 대선이 임박한 시점에 딥페이크를 이용한 선거운동의 한시적 전면 금지를 위반한 것으로 보인다. 중앙선관위는 보도자료를 통해 이들에게 적용된 구체적 혐의사실을 △특정 온라인 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등을 총 35회 게시, △다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상 게시, △개인 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글과 영상 제작·게시·유포라고 설명했다.3)
2025년 말 한 지역 선거관리위원회(이하 지역선관위)에서는 AI를 이용해 현직 단체장을 찬양하는 노래를 제작한 사람과 그 노래를 전달받아 단체 대화방에 유포한 사람에게 각각 표시 의무 위반으로 과태료 500만 원씩 부과했다.4) 또 다른 지역선관위는 지난 2월 9일 제9회 지방선거 입후보 예정자를 딥페이크 영상 이용 허위사실공표죄 위반 혐의로 경찰에 고발했다. 이 사건의 피고발인은 해외 유명 시사주간지가 피고발인 자신을 해당 지역의 발전을 이끌 인물로 선정한 것처럼 뉴스 영상을 제작·유포한 혐의를 받고 있다.5)
여기에 소개된 사례들 모두 공직선거 과정에서의 AI 사용 규제가 도입된 이후 선관위가 공식적으로 ‘최초’임을 인정한 사안들이다. 첫 번째 사례는 딥페이크 영상 이용 선거운동의 한시적 전면 금지 위반(제255조 제5항, 제82조의8 제1항)으로 형사고발된 최초의 사례이고, 두 번째 사례는 상시적 표시 의무 위반(제261조 제3항 제4호, 제82조의8 제2항)으로 과태료가 부과된 최초의 사례이며, 세 번째 사례는 딥페이크 영상 이용 허위사실공표죄 위반(제250조 제4항)으로 형사 고발된 최초의 사례다.
과도한 규제, 모호성, 형평성 문제 해결돼야
앞선 사례들은 법원에서 선고된 판결이 아니어서 최종적 유권해석이라 볼 수는 없지만 선관위의 판단이 담겼을 뿐만 아니라 추상적 법 규정이 현실에 어떻게 적용되는지 확인할 수 있는 유의미한 자료라고 할 수 있다. 문제는 구체적 법 적용 사례를 보더라도 비례성, 명확성, 형평성 등에 관해 생기는 의문이 전혀 해소되지 않고 있다는 점이다.
우선, 과도한 규제가 아닌지 의문을 지울 수 없다. 선거 전 일정 기간 AI로 만든 딥페이크 영상 사용을 금지하는 것은 흑색선전, 과장이나 사실 왜곡의 수단으로 악용될 가능성이 있기 때문이다. 실제 법 개정 전 “공직선거 영역에서 딥페이크 기술의 악용에 대한 대비 논의가 거의 전무”하다며 입법적 대응의 필요성을 주장하는 논문6)이 발표되기도 했다. 그렇다면 규제의 대상은 딥페이크 ‘악용’ 문제여야 한다. 그런데 공직선거법은 한시적으로나마 내용의 진위를 묻지도, 따지지도 않고 전면 금지한다. 또 공표에 직접적으로 해당되지 않는 행위들, 즉 딥페이크 제작·편집까지도 처벌한다. 악용에 대한 대응이 아닌, 원천봉쇄인 셈이다. 그 결과, 과도한 규제라는 비판에서 자유롭지 못하다.7)
선거운동은 원칙적으로 자유롭다(제58조 제2항). 표현의 자유 중에서도 가장 적극적으로 보장돼야 할 정치적 표현의 자유 문제이기 때문이다. 그래서 해악의 발생이 명백하고 현존해야만 비로소 그 규제의 정당성이 인정될 수 있다. 이러한 시각으로 딥페이크 영상 사용 규제를 바라본다면, 아마도 규제의 마지노선은 ‘내용이 허위인 딥페이크 영상’을 ‘공표’하는 정도일 것이다.
다음으로, 규정의 모호성을 지적하지 않을 수 없다. 딥페이크 영상 사용 금지에 관한 공직선거법 제82조의8 제1항은 사실상 형벌 규정이다. 죄형법정주의에 따라 형벌 규정은 그 범죄 구성 요건이 명확해야 한다. 그런데 ‘딥페이크’ 개념을 규정하는 문구인 ‘실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상’은 도무지 명확하지 않다. 선관위가 보도자료를 통해 공개한 적용 사례를 살펴봐도 여전히 모호하다. 아니, 오히려 처음 가졌던 의문이 증폭된다.
앞에서 소개한 두 번째 사례에서 선관위는 AI를 이용하여 만든 현직 단체장 찬양가를 ‘딥페이크 음향’으로 본 듯한데, 보도자료에 기재된 내용만으로는 그 판단의 근거를 이해하기 어려울 뿐만 아니라 AI가 활용되기만 하면 딥페이크로 보는 것은 아닌지 의심이 든다. 처음 딥페이크라는 용어가 사용되기 시작한 배경에는 특정 인물의 얼굴이나 목소리를 합성하는 문제가 있었다. 그 개념을 공직선거법에서는 ‘실제와 구분하기 어려운 가상’이라는 개념으로 확대했다. 실제 운용 과정을 좀 더 지켜봐야겠지만, 죄형법정주의에 따른 ‘명확성 원칙’ 위반 논란은 앞으로도 지속되리라 생각한다.
마지막으로, 형평성에 대한 의문도 있다. 문제의 제82조의8 제1항에는 ‘인공지능 기술 등을 이용하여 만든’이라는 문구가 있다. 자연스럽게 AI를 이용하지 않고 일반 컴퓨터 프로그램으로 만든 실제 같은 영상이나 이미지, 음향은 처벌되지 않는 것인가 의문이 생긴다. 이에 대해 중앙선관위는 포토샵·그림판 등 사용자가 직접 조작하는 프로그램을 인공지능 기술에서 제외한다고 밝히고 있다. 법문에 ‘인공지능 기술 등’이라 돼 있음에도 적용 범위를 좁히는 것이다. 선관위에서 운용의 묘를 발휘하는 것일 수도 있겠지만, 애당초 모호한 법 조항 때문에 생기는 문제인 만큼 법 개정이 불가피해 보인다.
1) 김동주·손다은, <딥페이크 영상 선거운동 금지법>, 법률신문, 2024.2.7, https://www.lawtimes.co.kr/news/articleView.html?idxno=195759
2) 일반 허위사실공표죄의 벌금액 하한액은 500만 원인데, 딥페이크 영상 등에 의한 허위사실공표죄의 벌금액 하한은 1,000만 원으로 2배 상향됐다. 상한액은 3,000만 원에서 5,000만 원으로 약 1.6배 늘었다.
3) <중앙선관위, 제21대 대선 딥페이크 영상 이용 선거운동 첫 고발>, 중앙선거관리위원회 보도자료, 2025.5.29
4) <AI 이용 지자체장 찬양 노래 제작자 및 유포자 고발 등 조치>, 중앙선거관리위원회 보도자료, 2025.12.22
5) <제9회 지선 딥페이크영상 이용 허위사실공표자 첫 고발>, 중앙선거관리위원회 보도자료, 2026.2.9
6) 조원용(2022), <공직선거에서 딥페이크(Deepfake) 악용에 대한 입법적 대응의 필요성>, 공법연구, 50(3)
7) 사단법인 오픈넷이 공직선거법상 딥페이크 금지 조항에 관해 헌법소원심판청구를 2025년 10월 1일 제기했다. 오픈넷은 그 이유를 “표현의 내용과 결과적 해악을 불문하고, 특정 기술을 이용해 만든 ‘딥페이크물’이라는 이유만으로 무조건적, 전면적으로 금지하는 규제는 전 세계적으로 유례를 찾아볼 수 없는 명백히 과도한 위헌적 규제”라고 보도자료를 통해 밝혔다.(www.opennet.or.kr/26633)
저자의 다른 미디어
