선거판 흔드는 AI, 위기일까 기회일까
AI가 정치 캠페인에 미치는 영향과 언론의 역할

1. 선거 캠페인 덮친 AI … 어디도, 누구도 자유롭지 않다.

민주주의의 적들이 (AI를 악용해) 기술적인 핵폭발을 일으킬 수도 있다

앨런인공지능연구소 (AI2) 설립자이자 미국 워싱턴대 명예교수인 오렌 에치오니(Oren Etzioni)의 섬뜩한 경고다. 더불어민주당의 압승으로 마무리된 한국의 총선거는 물론 미국의 대통령 선거까지, 올 한해 세계 70여 개국에서 중요 선거가 진행됐거나 예정돼 있다. 세계 인구의 절반이 유권자라는 분석까지 나올 정도니 1년 내내 세계는 선거로 들썩인다는 이야기다. 하지만 오렌 에치오니를 포함한 여러 석학과 전문가들은 새 리더십에 대한 기대와 설렘보다는 걱정부터 쏟아내고 있다. AI 기술의 급속한 발전이 선거에 치명적인 악영향을 미칠 수 있다는 우려 때문이다. “생성형 인공지능의 등장으로 퍼펙트 스톰(더할 수 없이 나쁜 상황)이 몰아치고 있다”라며 AI가 민주주의에 가할 실질적인 위협을 지적하는 발언은 이제 더는 낯설지 않다.

실제 기술 발전을 악용한 가짜 정보 유통은 이미 곳곳에서 현실이 되었다. 미국의 경우 바이든 대통령과 트럼프 전 대통령에 대한 허위 뉴스가 툭하면 터진다. 지난 1월에는 미국 뉴햄프셔 주민들이 느닷없이 바이든 대통령의 전화를 받았다. 바이든 대통령이 직접 공화당 프라이머리(예비선거)를 앞두고 투표하지 말라고 독촉했지만, 인공지능으로 만들어 낸 가짜 음성으로 확인됐다. 미국 대선이 본격화된 시점에 인공지능이 유권자들의 표심에 개입할 수 있다는 것이 확인되면서 미국 정가는 발칵 뒤집혔다.

트럼프 전 대통령도 예외는 아니다. 경찰에 연행되는 모습은 물론, 흑인들과 함께 찍은 사진이 논란이 되었다. 일부 트럼프 지지자들이 흑인 유권자들을 투표장에 끌어내기 위해 인공지능을 활용해 거짓 사진을 만들어 뿌린 것이다. 자세히 보면 조악한 가짜 사진이라는 것을 알 수 있지만 영국 BBC는 페이스북 댓글 분석 결과 진짜라고 믿는 경우도 적지 않았다고 보도했다.

선거 전 조작으로 확인되어도 일부 유권자들은 여전히 사실로 믿고, 향후 투표에도 영향을 미칠 수 있다. 튀르키예의 경우 딥페이크 영상물로 선거 결과가 뒤바뀌었을 가능성까지 나왔다. 지난해 5월 튀르키예 대선에서 야당 후보가 테러리스트의 지지를 받고 있다는 딥페이크 영상이 급속히 확산했다. 당시 야당 후보는 러시아 배후설을 주장했지만 끝내 친러파인 에르도안의 3선을 막지는 못했다. 문제는 이 영상이 선거에 얼마나 영향을 줬는지 제대로 파악조차 안 된다는 점이다. 후보자 측에서 의도적으로 상대 후보 비방을 목적으로 영상을 제작했다는 것을 밝혀내지 못한다면, 선거 결과 역시 바꿀 수 없다는 불가역적 상황에 정치는 조금씩 침몰해 가는 것인지도 모른다.

2.” 선거 영향 차단해야”…규제에 집중된 AI 정책

AI를 통한 가짜뉴스, 가짜 캠페인이 유권자들의 표심을 왜곡해 선거 결과를 엉뚱한 방향으로 이끈다면 민주주의 체제에는 실제 ‘핵폭발’에 버금갈 정도의 재앙이 될 수 있다. 미국 국방성 청사 펜타곤에 대형 폭발이 일어났다는 가짜 사진 한 장에 세계 증시가 출렁거렸던 점을 보더라도 이제 인공지능을 활용한 거짓 정보는 가능성이 아닌 실질적인 위협이다.

2-1) .”AI 개발부터 직접 관리하겠다”…칼 빼든 미국

시시각각 다가오는 위협에 각국 정부는 잇단 규제에 나서고 있다. 먼저 오는 11월 대선을 앞둔 미국은 지난해 10월 바이든 행정부 주도로 행정명령을 발표했다. 정부가 직접 나서 기업의 AI 서비스 전 과정을 관리 감독하겠다는 것이 주요 내용이다. 특히 AI를 활용해 가짜영상을 제작할 경우 AI가 생성한 콘텐츠에 워터마크(식별표시)를 의무적으로 두도록 했다. 업계 일각에서는 기업의 자율성을 지나치게 침해한다는 우려도 나왔지만 “내 딥페이크에 나도 놀랐다”라는 바이든 대통령의 의지를 꺾을 수는 없었다.

하지만 연방정부 차원에서 AI를 활용한 선거 캠페인을 어떻게 규제할 것인가에 대해서는 좀처럼 속도를 내지 못하고 있다. 인공지능을 정치광고에 사용해서는 안 된다는 압박에도 미국 연방선거관리위원회(FEC)는 여전히 구체적인 대책 마련에 소극적이다. 표현의 자유를 명시한 수정 헌법 1조의 취지를 지켜야 한다는 반대론도 만만치 않은 게 현실이다. 미국 상원에서도 관련 법안이 제출되었지만 진행은 더디기만 하다.

연방 정부가 결단을 내리지 못하고 주저하는 사이 각 주 단위 규제책은 쏟아지고 있다. 캘리포니아는 선거일 60일 이전에, 텍사스는 선거일 30일 전에 타인을 속이려는 의도를 가진 딥페이크 제작을 원천적으로 금지하고 있다. 법안 마련을 준비 중인 주 정부도 10여 곳에 달한다. 네브래스카주의 경우 선거일 전 60일 동안 딥페이크 콘텐츠 유포를 금지하고, 애리조나와 플로리다 등도 AI를 활용한 선거 운동 규제 법안이 제출돼 있다.

<미국 연방정부 및 주 정부의 AI 규제>

2-2) 한국도 피하지 못한 AI 충격파…선관위 “강력 규제”

AI의 등장과 딥페이크가 정치 캠페인에 가하는 충격은 우리도 피하지 못했다. 총선을 앞둔 지난 2월에는 윤석열 대통령의 이미지를 활용한 가짜 영상이 등장했다. “저, 윤석열 국민을 괴롭히는 법을 집행해 온 사람이다”라는 영상은 거짓으로 확인되었고, 경찰이 수사 중이다. 중앙선관위는 총선 두달 전인 지난 1월 말부터 총선 직전인 4월 초까지 딥페이크로 만든 온라인 선거 운동 게시물 380여 건을 적발해 모두 삭제했다.

이 같은 선관위의 단속은 지난해 말 개정된 공직선거법에 근거를 두고 있다. 개정 공직선거법은 선거일로부터 90일 동안 딥페이크를 사용한 선거운동을 전면 금지했다. 어기면 7년 이하의 징역이나 천만 원 이상 5천만 원 이하의 벌금형을 받게 된다. 설사 딥페이크로 제작된 영상이나 음성이 사실이라도 법률 위반이 된다. 여기에 선거일 90일 전이 아니라도, 딥페이크로 허위 사실을 공표하면 역시 처벌 대상이다.

선거 90일 전에 딥페이크 제작물을 원천 봉쇄한 것은 다른 나라에 비해 과도하다는 지적도 제기된다. 앞서 언급한 미국 캘리포니아의 경우에도 허위사실을 담고 있어야 규제 대상에 들어간다. 여전히 표현의 자유를 지나치게 억압한다는 주장이 끊이지 않고 있지만, 자칫 선거에 악영향을 끼칠 수 있는 만큼 강력한 규제가 먼저라는 반론의 무게도 만만치는 않다.

3. AI 기업들의 자율 규제 움직임

미국과 우리뿐 아니라 유럽연합 (EU)역시 세계 최초로 포괄적인 인공지능 규제법을 통과시키는 등 정부 차원의 규제는 곳곳에서 활기를 띠고 있다. 그럼에도 여전히 정부가 직접 관여하는 통제에 대한 한계론도 끊이지 않고 있다. 따라서 정부의 사후 통제와 제재보다는 AI 기업들이 먼저 자율적인 규제에 동참해야 한다는 지적도 힘을 얻고 있다.

실제 국내외 굴지의 AI 기업들은 ‘AI 선거 협정 (AI Election Accord)’을 구축해 공동 대응에 나서고 있다. LG AI 연구원을 포함해 구글과 오픈 AI, 메타 등 20여 개 기업들이 AI 선거 협정 협의체에 참가하고 있다. 이들 기업은 지난 2월 독일 뮌헨 안보 회의(MSC)에 참여해 올해 각국 선거 과정에 AI가 악용되지 않도록 함께 노력하자는 내용의 협약을 발표했다. 기만적인 AI가 선거에 활용되지 않도록 미리 예방하고, 콘텐츠의 출처를 식별할 수 있도록 했다. 또한 유해한 AI 콘텐츠의 온라인 배포를 막기 위한 노력과 관련 교육 캠페인도 진행하기로 뜻을 모았다.

우리도 총선을 앞두고 대표적인 IT 기업인 네이버와 카카오 등이 소속된 한국인터넷협회가 악의적 선거 딥페이크 방지를 위한 공동선언을 채택하기도 했다. 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지와 신속한 조치 노력을 기울이고 대응 정책을 공개하기로 했다. 또 네이버와 카카오는 실제 딥페이크 관련 검색이나 동영상 게시물을 작성할 경우 딥페이크 주의 안내 문구를 띄우는 등의 조치에 나서기도 했다.

국내외 기업들의 이 같은 자정 노력에도 여전히 한계는 존재한다. 영국의 비영리단체인 디지털 혐오 대응센터 (CCDH)의 실험 결과는 여전히 AI를 활용한 정치 캠페인이 얼마나 위험할 수 있는지 잘 보여준다. 오픈 AI의 챗 GPT플러스, MS 이미지 크리에이터, 스태빌리티AI 드림스튜디오, 미드저니 등 네개의 AI 도구가 실험 대상이 됐다. 각 도구별로 마흔 번씩, 모두 160번의 실험이 있었고 결과는 기업들의 자율 규제 움직임을 비웃듯 다소 놀라웠다. 선거 관련 허위 정보를 생성하는 이미지가 40%를 넘은 것이다.

실제 연구원들은 프롬프트 엔지어링 작업을 통해 바이든 대통령이 아픈 모습으로 가운을 입고 병원 침대에 누워 있는 모습이나 감옥에 갇혀 있는 트럼프 전 대통령의 모습을 손쉽게 제작할 수 있었다. 여기에 선거 사무원들이 투표 기기를 훼손하는 모습이나, 쓰레기통에 버려진 투표 용지까지 생성됐다. CCDH는 이런 실험 결과를 토대로 AI를 활용해 제작한 거짓 사진들이 허위 주장을 퍼뜨리며 선거를 망칠 수 있다고 경고한다. 결국 각국 정부가 강력한 법안을 만들어 규제해야 한다는 것이다.

4. AI의 등장…부정적 영향만 있을까?

지금까지 살펴봤듯 AI는 모두의 예상보다 훨씬 빠른 속도로 진화하고 있다. 딥페이크는 물론 챗GPT 등을 포함한 생성형 AI가 선거에 치명적인 위협을 가할 것이란 우려는 높아지고, 각국 정부, 그리고 기업들은 부작용을 막기 위해 온 힘을 쏟고 있는 모습이다. 마땅한 방향이고, 서둘러 대책이 마련되어야 할 것이다. 하지만 기술발전이 선거 캠페인에 미치는 긍정적인 효과는 없을까? 우리가 통제할 수 있다면 선거 캠페인에 긍정적인 충격을 줄 수 있지는 않을까? 대규모 자본과 인력이 동원되던 과거 선거 캠페인도 이제 대전환의 길목에 들어선 건 아닐까? 변화는 이미 시작됐다.

<선거 캠페인 비용의 획기적 절감>

펜실베이니아 10선거구에서 연방 하원 의원을 노리는 샤메인 대니얼스는 생성형 AI 챗봇, 애슐리(Ashley)를 통해 선거 캠페인에 나서고 있다. 애슐리는 AI 기술로 운용되는 최초의 전화 선거 운동원이다. 유권자들에게 녹음된 내용만 일방적으로 전달하지 않는다. 상대의 프로필을 분석해 상호 대화를 통해 하원의원 후보인 샤메인 대니얼스에 대한 지지를 호소한다. 애슐리는 프로필이 등록된 유권자 개개인과 맞춤형 대화가 가능하다. 대규모 조직원이나 선거 운동원, 자원 봉사자가 동원돼 지역 주민들을 상대로 일대일 설득작업에 나설 필요가 없어진 것이다.

전화 선거운동원 뿐이 아니다. AI 음악 스타트업 업체는 선거 로고송 제작에 뛰어들었고, 매일 매일 바뀌는 연설문을 제작해주는 AI 기술도 등장했다. 여기에 선거 운동을 하면서 그때 그때 궁금한 점을 물어볼 수 있는 AI 챗봇까지 선을 보였다. 비싼 돈을 주고 변호사를 선임하지 않아도 언제든 선거 운동 과정에서 법을 어긴 것은 없는지 확인할 수 있게 된 것이다.

이처럼 AI를 통한 선거 캠페인은 막대한 비용 절감 효과를 가져온다. AI를 통한 선거 운동은 고비용 저효율의 선거 캠페인을 획기적으로 바꿀 수 있다는 가설이 어느 정도는 실현 가능하다는 점을 증명해 냈다. 선거 한 번 뛰는 데 적게는 수천만 원에서 많게는 수억 원을 써야 했다는 정치인들의 푸념을 더는 듣지 않을 날이 올 수도 있다.

<미국의 미묘한 입장 변화…AI전쟁에서 승기를 잡아라>

이처럼 선거 캠페인에서 AI는 부정적인 영향만 미치는 것은 아니다. 부작용 차단과 규제에 집중할 것 같았던 미국 정치권도 미묘한 변화를 보이고 있다.

지난 5월 미국 의회에서 발표한 슈머 보고서(https://www.schumer.senate.gov/imo/media/doc/Roadmap_Electronic1.32pm.pdf)

슈머(Chuck Schumer) 민주당 상원 원내대표가 이끄는 초당파 의원 그룹은 올해 말까지 AI 관련 법안을 통과시킨다는 목표로 지난 5월 의회의 AI 규제 방향을 담은 보고서를 발간했다. 관심을 끄는 건 AI의 부작용과 폭주보다 더 진정한 위험은 적대국인 중국이나 러시아가 미국을 추월하는 것에 초점을 맞추고 있다는 점이다.

그러면서 미국 정부가 산업정책을 통해 AI 경쟁 우위를 공고히 해야 한다고 분명히 밝히고 있다. AI 혁신과 R&D를 위해 매년 최소 320억 달러, 우리 돈 40조 원 이상을 정부가 투자해야 한다는 주장도 담고 있다. 딥페이크와 가짜뉴스 등 부작용 규제에서, 더욱더 확실한 경쟁 우위를 잡아야 한다는 쪽에 미국 정부의 무게가 실릴 가능성이 현재로서는 높다.

5. 양날의 검 AI…언론의 역할은 어디까지일까

미국의 대표적인 싱크탱크인 브루킹스 연구소는 AI의 등장이 민주주의를 강화 시킬 수도, 약화 시킬 수도 있다고 전망했다. 연구소는 AI를 통해 선거관리를 보다 쉽게 할 수 있고, 딥페이크를 사전에 차단한다는 점은 긍정적인 면으로 꼽았다. 여기에 선거 비용을 획기적으로 낮춰 청년을 포함해 자금이 부족한 후보의 정치권 진입 장벽을 낮출 수도 있다. 반면 브루킹스 연구소는 잘못된 정보로, 특히 독재국가나 권위주의 정권에서 일부러 허위 정보를 흘려 유권자들의 판단을 흐릴 수 있다고도 예측했다. 이미 끝난 선거 결과를 되돌릴 수 없다는 점에서, 선거에 미친 영향이 실제 어느정도 였는지 정량적으로 파악할 수 없다는 점에서 부정적인 면은 치명적이다.

중요 선거를 앞둔 각국 정부는 물론 AI 기업들이 정교한 규제와 통제 장치 마련에 나서는 이유다. AI가 유권자들의 표심을 비틀고 왜곡하지 않도록 사전에 제어할 수 있어야 한다는 데는 모두가 공감한다. 그렇다면 언론의 역할은 무엇일까? 선거 캠페인에서 긍정적이든 부정적이든 AI의 활용은 이미 상수가 되었다. 기술 발전을 잠시 더디게 할 수 있을지는 몰라도 완전히 차단하는 것이 불가능하다면 새로운 트렌드를 어떻게 보도해야 하는가에 대한 고민도 함께 뒤따를 수밖에 없다.

실제 AP통신은 기사 작성 방법과 언론 윤리 등을 다룬 style book을 개정하면서 AI 취재 활용 보도에 대한 지침을 추가 반영했다. 가이드라인은 AI에 대한 보도는 시스템이 어떻게 작동하고, 규제를 받고 있는지 함께 살필 것을 권하고 있다. 주목할 만한 점은 항상 특정 AI 도구를 통해 누가 혜택을 받고 돈을 버는지, 특정 커뮤니티가 부정적인 영향을 받을 수 있는지 확인해야 한다고 강조했다는 점이다. 또한 지나치게 기술의 힘에 낙관적이어서는 안되며, 현재의 우려보다 먼 미래에만 초점을 맞추는 것도 피해야 한다고 보도 방향을 제시했다.

구체적으로 살펴보면 AP통신은 기사작성에 생성형 AI를 사용하지 않으며, 현실을 왜곡한 AI 이미지를 보도하지 않겠다고 밝혔다. 챗 GPT를 포함한 생성형 AI를 통한 출력물은 모두 검토되지 않은 원본으로 구분되며, AP가 입수한 자료가 인공지능을 통해 제작된 허위 자료인지도 꼼꼼히 살피도록 했다. 여기에 더해 AP 소속 기자와 직원들은 민감한 정보를 AI도구에 넣지 말 것을 권장했다. AP 통신은 기자가 자료의 진위에 대해 어떠한 의심이라도 있다면, 사용해서는 안 된다고 거듭 강조한다.

가이드라인 작성에 주도적으로 참여한 AP의 개런스 버크(Garance Burke) 기자는 국제언론인 네트워크(IJNET)와의 인터뷰에서 AI가 선거에 어떤 영향을 미치는지에 대해 기자들이 늘 주의해야 한다고 강조했다. AI 기술이 선거에 개입해 영향을 미칠 수 있는 점과 없는 점을 분명히 이해하고, 독자와 시청자들에게 올바른 정보를 제공해야 한다는 것이다. 또한 미국과 권위주의 국가, 후진국 등 AI가 지역에 따라 미칠 수 있는 영향이 크거나 작을 수 있는데, 지나친 과잉해석도 금물이라고 경계한다.

6. 결론

AI 기술의 급속한 발전은 선거 캠페인의 양상을 크게 바꾸어 놓고 있다. 딥페이크 기술을 활용한 허위조작정보의 확산, 타겟 광고를 통한 유권자 여론 조작은 대표적인 부작용으로 꼽힌다. 하지만 두려워하고 피할 일만도 아니다. 대규모 선거 여론조사에서 AI 활용 등 그 영향력은 갈수록 커지고 있다. 선거 비용 절감을 통해 획기적으로 정치 신인들의 진입장벽을 낮출 수도 있다. AI를 활용한 팩트체크, 유권자 맞춤형 선거 운동도 가능할 것이다. 신기술의 발전을 막을 수 없다면 부작용은 최소화하면서 민주주의의 발전에 어떠한 방법으로 효율적으로 사용할 수 있을지 동시에 검토하는 것이 오히려 효과적일 수밖에 없다.

AI 기술 발전과 정치 캠페인을 주제로 살펴보면서, 사실 관심은 자연스럽게 AI와 언론의 역할로 넓혀졌다. 허위정보에 대한 감시, 선거의 공정성 확보를 위한 언론의 역할은 어느때보다 커졌다. 여기에 더해 기술 발전은 언론인의 역할을 어디까지 변화시킬 것인지, 기사 작성에 AI를 어디까지 허용하고 활용할 것인지, 과연 생산성을 높일 것인지, 윤리적 논쟁만 촉발할 것인지, 또, 생성형 AI가 검색 기능까지 갖출 경우 현재 국내 포털의 플랫폼 유지는 가능할 것인지, 그렇다면 각 언론사의 생존전략은 무엇이 되어야 할 것인지, 기술 발전은 정치캠페인뿐 아니라 언론 전체에 큰 지각 변동을 몰고 올 가능성이 높다. 우리는, 그리고 나는 이러한 격변에 얼마나 준비되어 있는가라고 스스로에게 되물으며 연구보고서를 마친다.

<참고 자료>

1. Enneth R. Rosen (2023), Why AI could be a big problem for the 2024 presidential election, PULAR SCIENCE
2. Judith Kelly (2024), ‘People Are Exhausted by Politics’: Faculty Assess the 2024 Election at Briefing for International Journalists, https://today.duke.edu/2024/03/people-are-exhausted-politics-faculty-assess-2024-election-briefing-international
3. BBC (2024), Trump supporters target black voters with faked AI images, https://www.bbc.com/news/world-us-canada-68440150
4. AI Elections accord (2024), A Tech Accord to Combat Deceptive Use of AI in 2024 Elections, https://www.aielectionsaccord.com/
5. Center for Countering Digital Hate. (2023), FAKE IMAGE FACTORIES, https://counterhate.com/research/fake-image-factories/
6. Brookings Institution. (2024). “The impact of generative AI in a global election year.”, https://www.brookings.edu/articles/how-ai-will-transform-the-2024-elections
7. West, D. M. (2023). “How AI will transform the 2024 elections.” Brookings.
8. Fitzwilliam, H. (2023). “How AI could sway voters in 2024’s big elections.” Chatham House – International Affairs Think Tank.
9. Microsoft News. (2024). “Technology industry to combat deceptive use of AI in 2024 elections.”
10. INTERNATIONAL JOURNALISTS’ NETWORK (2024), How to report on AI in elections
11. Bourgault, J. (2023). In the AI era, disinformation is an existential threat to democracy. Nieman Lab