선거 앞 AI 가짜뉴스

  인공지능(AI)이 만든 이미지와 스토리를 실제와 구별하기란 여간 힘든 일이 아니다. 그래서 이것들은 가짜 뉴스 도구로 꾸준히 이용되고 있는데, 시장을 교란시키거나 정치적 이익을 도모하는 데 이만큼 가성비 높은 '무기'도 없다고 한다. 갈수록 AI가 더 많이 개입하는 '신뢰할 수 없는 정보원'이 창궐하는 세상. 워런 버핏이 AI 기업 주식들을 팔고 대신 '진짜 뉴스'를 만드는 뉴욕타임스에 투자한 이유도 이를 내다본 통찰에 있지 않을까 싶다.

 

  AI로 만들어진 '가짜'를 활용한 뉴스는 종종 세상을 흔들어 왔다. 2023년 성탄절 미 뉴저지주 소도시 브리지턴에서 총격 사건이 발생했다는 소식이 뉴스 앱 '뉴스 브레이크' 기사로 전해졌다. 한바탕 소동은 현지 경찰이 페이스북을 통해 "AI가 조합한 가짜 뉴스"라는 공지를 올리고서야 진정됐다. 같은 해 미 국방부 청사가 폭발한 사진에서 비롯된 뉴스는 러시아 관영 미디어에까지 전달되면서 파급력이 막대했다. 가짜 뉴스임이 확인되기까지 미국 증시는 출렁였다.

 

  AI가 개입된 정치는 민주주의 근간을 위협해 더 큰 골칫거리다. 슬로바키아에선 2023년 야당 대표가 정치적 거래를 언론사 기자와 논의하는 듯한 통화 음성이 확산돼 논란이 일었는데 이는 끝내 AI 딥페이크로 판가름 났다. 이듬해 미 시카고 시장 선거에서도 AI발 가짜 음성이 문제를 일으켰다. 후보 폴 발라스는 여론조사에서 수위를 달리고도 결선에서 승리하지 못했는데, 그가 '선거조작'을 운운하는 것처럼 들리는 음성이 한몫한 탓으로 보인다.

 

  지방선거를 앞둔 국내에서도 가짜 AI 창작물에 대한 경고음이 울리고 있다. 한 예비 후보자가 지난 1월 자신을 홍보하는 AI 제작 영상물을 유포시켰다가 선관위로부터 고발당하기도 했다. 이에 정부는 26일 검찰과 경찰이 전담수사반을 가동하는 등 대대적인 AI 가짜 뉴스 확산 차단 방침을 밝혔다. 당국이 '무관용 원칙'을 내세우며 근절을 다짐했지만 세계 최초로 높은 디지털 의존도, 정치 갈등이 만연한 우리 사회에서 과연 어떤 성과를 낼지 지켜볼 일이다.

 

2026.02.27(금) / 한국일보 / 양홍주 논설위원