생성형AI를 사용하면 공직선거법상 '여론조사 공표 제외 기간'에도 아무런 규제 없이 특정인 지지도를 조작하거나 왜곡된 선거 결과 예측을 발표할 수 있어 피해가 우려된다. 

<메트로경제신문>이 입수한 중앙선거관리위원회(선관위) 자료에 따르면, 선관위는 생성형AI가 특정 정당·후보자에 대한 지지도나 선거결과를 예측한 내용을 선거운동 기간 동안 발표해도 공직선거법 위반이라고 볼 수 없다고 밝혔다.  

선관위는 생성형AI를 여론조사·소셜미디어·뉴스·통계 등 인터넷 기반의 대규모 데이터와 추가로 학습된 데이터 등을 다중의 분석알고리즘을 활용해 답변내용을 도출하는 것이라고 규정했다. 또한, 선관위는 생성형AI를 선거운동에 활용하는 후보자는 신뢰도에 등에 한계가 있을 수 있음을 밝혀 선거 분석 결과 등을 공표할 수 있다고도 했다. 

공직선거법 제108조에 따르면, 누구든지 선거일 전 6일부터 선거일의 투표마감시각까지 선거에 관해 정당 지지도나 당선인을 예상케 하는 여론조사의 경위와 그 결과를 공표하거나 인용해 보도할 수 없다. 선거일에 임박할수록 유권자의 진의를 왜곡할 수 있는 여론조사의 부정적 효과를 막을 필요가 있고, 불공정한 여론조사에 대한 반박 및 시정이 매우 어렵기 때문이다. 

다만, 선관위는 "생성형AI를 이용하여 특정 정당 또는 후보자에 대한 지지도나 선거결과를 예측한 내용은 생성형AI로 분석한 결과로서 신뢰도 등에 한계가 있을 수 있음을 밝혀 공표하는 경우에 한하여 법에 위반되지 않는다고 판단한 것"이라며 "이러한 경우에도 생성형AI로 도출한 분석결과를 선거에 관한 여론조사 결과로 오인하게 하는 방법으로 공표하는 경우에는 법 제96조 제1항에 위반될 수 있을 것"이라고 밝혔다.

그러면서 "방송·신문·통신잡지, 그 밖의 간행물을 경영·관리하는 자 또는 편집·취재·집필·보도하는 자가 객관적 자료를 제시하지 아니하고 선거결과를 예측해 보도하는 경우에는 법 제96조 제2항 제2호에 위반될 수 있을 것"이라며 "생성형AI로 도출하여 공표한 내용에 허위의 사실 등이 포함되는 경우에는 행위 주체 및 양태에 따라 법 제250조 등에 해당할 수 있다"고 덧붙였다.

추가로, 선관위는 또한 생성형AI로 도출한 글, 사진, 음성, 동영상 등을 선거운동에 활용할 수 있고 생성형AI를 활용한 자료의 법적 책임은 후보자에게 있다고 밝혔다. 이번 총선에 출마하는 후보자들은 생성형 AI를 통해 선거공약 개발, 각종 연설문 작성, 선거 전략 수립, 홍보 동영상 및 로고송 제작이 가능하다. 생성형AI가 공표한 내용에 허위사실이 있을 경우, 이는 허위사실공표죄에 해당해 처벌받는다. 

선관위는 생성형AI가 도출한 선거분석 결과가 '여론조사'에 해당하지 않기 때문에 여론조사 공표 제외 기간에도 생성형AI를 통한 선거 결과 예측을 허용한다고 답한 것인데, 생성형AI가 배포할 수 있는 가짜뉴스의 위험성에는 취약하다는 지적이다. 

일례로, 윤석열 대통령은 제20대 대선에서 'AI윤석열'을 선거운동에 활용했다. 그러나 지난해 6.1 지방선거에서 경남 남해군수로 출마한 한 후보자가 'AI윤석열'을 활용해 윤 대통령이 마치 박 후보를 지지하고, 남해군 공약 이행을 확언한 것처럼 가짜 영상을 제작해 논란이 됐다.

내년 총선을 준비하고 있는 정치권 관계자는 이날 <메트로경제신문>과 통화에서 "여론조사 공표 제외 기간에도 생성형AI를 통한 선거 예측을 가능하게 해, 만일 벌어질 가짜뉴스로 인한 피해가 우려된다"며 "선거 직전에 돌이킬 수 없는 피해를 입힐 수 있어 각별한 주의가 필요할 것"이라고 말했다.  

한편, 국회 행정안전위원회는 선거 운동 중 AI 기술이 적용된 허위 사실이 유포될 경우 이를 차단하는 공직선거법 개정안이 발의돼 있다. 개정안은 AI를 기반으로 제작한 영상물에서 허위 사실이 유포되거나 후보자를 비방할 경우 처벌하는 조항을 담았다.