선거 앞두고 AI 챗봇이 편향되는 방식 — ‘핑크 슬라임’ 콘텐츠가 AI 답변에 심어지는 구조

선거철이 가까워지면 어딘가 이상한 기사들이 갑자기 많아진다는 느낌을 받을 때가 있다. 막연한 느낌이려니 하고 넘겼는데, 이게 우연이 아니라는 걸 알게 됐다. AI 학습 데이터를 겨냥해 조직적으로 만들어지는 편향 콘텐츠가 실제로 존재하고, 특정 선거 일정에 맞춰 집중적으로 대량 배포되는 방식으로 운영된다. 그것이 챗봇 답변에까지 영향을 미친다는 사실을 접하고 나니 생각이 달라졌다. 내가 챗봇에게 후보자에 대해 물었을 때 받은 답변도 어쩌면 오염된 정보를 바탕으로 한 것일지 모른다는 생각이 들었기 때문이다.

핑크 슬라임 콘텐츠의 정체

핑크 슬라임이라는 말이 낯설다면, 어디서 온 말인지 먼저 짚어두는 게 좋겠다. 겉으로는 지역 뉴스처럼 보이지만 실제로는 특정 정치 의제를 밀어넣기 위해 자동 생성된 기사들을 대량으로 찍어내는 가짜 뉴스 사이트를 연구자들이 그렇게 불렀다. 식품 업계의 핑크 슬라임이 고기처럼 보이지만 고기가 아닌 것처럼, 이 콘텐츠도 뉴스처럼 보이지만 뉴스가 아니다. 미국에서는 2010년대 중반 이후 지역 신문사가 폐업한 자리를 이런 사이트들이 채워가면서 ‘OO카운티타임스닷컴’처럼 실제 지역 매체와 혼동하기 쉬운 도메인 이름까지 사용했다. 지역 언론의 형식을 정밀하게 모방할수록 독자와 알고리즘 모두를 더 쉽게 속일 수 있기 때문이다.

생성형 AI가 등장하기 전에도 핑크 슬라임 사이트는 존재했다. 그런데 지금은 규모가 완전히 달라졌다. NewsGuard가 추적한 결과, 2023년 이후 AI가 생성한 뉴스 사이트 수가 폭발적으로 증가했고, 2024년 미국 대선 직전에는 하루에만 수십 개의 신규 사이트가 등장하는 날도 있었다. 기자 한 명이 하루 종일 써야 쓸 수 있는 기사를, 스크립트 몇 줄이 몇 분 안에 만들어낸다. 제작 비용이 사실상 0에 가까워졌다는 게 핵심이다.

이 콘텐츠들이 처음부터 독자를 속이려고 만들어지는 건 아닐 수도 있다. 목표는 검색 엔진과 AI 크롤러에 잡히는 것이다. 제목에 특정 후보 이름과 부정적인 키워드를 조합하고, ‘○○ 후보 측근 비리 새 증거 확인’처럼 사실 여부와 전혀 무관한 제목 아래 SEO에 최적화된 문장들로 본문을 채운다. 독자가 실제로 읽는지는 중요하지 않다. 크롤러가 수집해서 인덱스에 올리는 것만으로도 목적이 달성된다.

더 교묘한 점은 이런 사이트들이 형식을 완벽하게 갖추고 있다는 것이다. 발행인 이름, 연락처, 기사 날짜, 소셜미디어 링크까지 있고, 구독 신청 페이지와 광고 배너까지 달아 실제 언론사처럼 꾸며놓는다. 컬럼비아 저널리즘 리뷰는 자동화된 신뢰도 평가 도구조차 이런 사이트들을 걸러내지 못한다고 지적했으며, 실제로 일부 사이트들은 구글 뉴스 인덱스에 등재되기까지 했다. 진짜 뉴스 조직과 구별이 어려울 만큼 정교해졌다.

선거가 가까울수록 이런 사이트들의 생산 속도가 빨라진다는 것도 주목할 만하다. 투표일 2주 전부터 1주 전 사이에 특정 후보를 겨냥한 기사 생산량이 급증하는 패턴이 반복해서 관찰됐는데, 이는 유권자들이 후보자에 대한 인상을 굳히는 결정적 시기와 정확히 겹친다. 이게 단순한 트래픽 장사인지, 아니면 조직적인 여론 조작인지 구별하기가 점점 어려워지고 있다. 광고 수익을 노리는 사이트와 정치적 목적으로 운영되는 사이트가 사실상 같은 기술적 방식으로 작동하기 때문이다.

AI 답변 오염 경로

웹에 올라간 콘텐츠가 AI 챗봇 답변에 섞이는 데는 크게 두 가지 경로가 있다. 하나는 학습 데이터 오염이고, 다른 하나는 실시간 검색 참조다. 학습 데이터 경로는 시간이 걸리는 대신 한번 오염되면 고치기가 매우 어렵다. 실시간 검색 경로는 즉각적으로 반영된다는 점에서 더 빠르게 위험하다. 두 경로가 동시에 작동할 경우 오염의 효과는 단순 합산 이상으로 증폭된다.

학습 데이터 경로부터 보면, AI 기업들은 인터넷에서 대규모 텍스트를 수집해 모델을 훈련시킨다. 이 수집 과정에서 핑크 슬라임 사이트의 기사도 포함되는데, Common Crawl처럼 인터넷 전체를 긁어 만드는 학습 데이터셋에는 수십억 개의 문서가 뒤섞여 있어 출처 품질을 일일이 검증하는 것이 현실적으로 불가능하다. 수백억 개의 문서 중에서 어떤 게 편향됐는지 걸러내기란 어렵다. 편향된 정보가 모델의 파라미터 안에 녹아들면, 그걸 다시 꺼내는 것도 쉽지 않다.

실시간 검색 참조 경로는 더 직접적이다. 요즘 챗봇들은 답변할 때 실제 웹을 검색해서 최신 정보를 끌어오는데, 핑크 슬라임 콘텐츠는 정확히 이 검색 상위 노출을 목표로 SEO를 최적화한다. 이때 검색 결과 상위에 핑크 슬라임 기사가 있으면, 그 내용이 그대로 요약에 포함된다. 챗봇이 출처를 비판적으로 평가하는 능력은 아직 사람 편집자 수준이 아니다. 그냥 상위 문서를 정리해줄 뿐이다.

이미 미국 선거에서 관련 사례가 보고됐다. 스탠퍼드 인터넷 관측소는 선거 관련 AI 답변이 검색 상위의 편향 콘텐츠를 그대로 반영하는 패턴을 여러 차례 확인했으며, 특정 후보에 대한 근거 없는 주장이 복수의 챗봇에서 거의 같은 어조로 반복 등장하는 사례도 기록됐다. 챗봇이 거짓말을 하는 게 아니다. 오염된 데이터를 성실하게 정리해줄 뿐이다. 이 구별이 중요하다.

모델이 이미 학습된 경우 오염을 사후에 제거하기가 매우 어렵다. 특정 주장이 모델의 어느 파라미터에 어떻게 박혀 있는지 정확히 파악할 수 없기 때문이다. 이를 기계 망각 문제라 부르며 활발히 연구 중이지만, 선거처럼 민감하고 시한이 정해진 영역에서 실시간으로 적용 가능한 실용적 해법은 아직 없다. 업체들이 사후 필터링이나 시스템 프롬프트 조정으로 대응하지만, 이것만으로는 충분하지 않다는 지적이 꾸준히 나온다.

카카오톡과 편향 확산

카카오톡은 국내 여론 형성 과정에서 독특한 역할을 해왔다. 링크 하나가 단체 채팅방 수십 개를 타고 빠르게 번지는 구조인데, 특히 가족 채팅방이나 직장 동료 채팅방처럼 강한 신뢰 관계를 기반으로 한 공간에서 공유된 정보는 출처를 따지지 않고 사실로 받아들여지기 쉽다. 과거 선거마다 조작된 뉴스가 카카오톡을 통해 퍼지면서 엉뚱한 여론을 만들어냈다는 사례가 여럿 있었다. 이 현상 자체는 새롭지 않다. 그런데 AI 챗봇이 여기에 연결되면 차원이 달라진다.

지금 당장 카카오톡 채팅방에서 AI 챗봇이 자동으로 답변을 제공하는 기능이 작동하는 건 아니다. 하지만 주요 플랫폼들이 AI 통합을 빠르게 확대하는 추세를 보면, 머지않아 가능해질 것이 분명해 보인다. 카카오도 AI 서비스를 적극적으로 확장하고 있으며, 대화 중 AI에게 즉시 질문하고 답변을 받을 수 있는 기능을 단계적으로 구현하고 있다. 메신저 플랫폼에 AI를 접목하는 작업이 진행 중이다.

그때가 되면 편향 정보를 가진 챗봇이 대화 흐름 안에 자연스럽게 섞여들어 답변을 제공하게 된다. 링크를 공유하는 것보다 훨씬 설득력 있는 형태로 정보가 전달되는데, 사람들은 챗봇이 깔끔하게 정리해준 내용과 누군가 직접 주장하는 의견을 무의식적으로 다르게 처리하는 경향이 있다. 링크는 적어도 누군가 클릭해서 읽어보는 과정이 있다. 아무리 자극적인 제목이라도 본문을 열면 출처를 의심해볼 여지가 생긴다. 챗봇 답변은 그 단계를 건너뛴다.

질문에 대한 자연스러운 대화 응답처럼 보이기 때문에 출처를 확인하려는 생각 자체를 덜 하게 된다. 가짜와 진짜 뉴스를 구분하는 것이 날로 어려워지는 상황에서, 챗봇이 자신감 있는 어조로 잘못된 정보를 전달할 때 그 설득력은 텍스트 기사보다 훨씬 크다. 카카오톡이라는 폐쇄적인 메신저 환경에서 AI 챗봇이 편향된 정보를 자신 있게 전달하는 그림은, 상상하고 싶지 않지만 가능성 안에 있다. 폐쇄적인 플랫폼 특성상 외부 팩트체크 기관이 개입하거나 오류를 바로잡기도 어렵다.

편향 답변 구별하는 법

챗봇 답변이 편향됐는지 확인하는 가장 간단한 방법이 있다. 같은 질문을 여러 챗봇에 던져보는 것이다. ChatGPT, 클로드, 제미나이는 각자 다른 학습 데이터와 서로 다른 설계를 가지고 있어서, 세 곳 모두 특정 후보에 대해 비슷하게 부정적인 어조를 보인다면 그 편향이 학습 데이터 전반에 넓게 퍼져 있다는 신호로 읽을 수 있다. 한 곳에서만 특이하게 치우친 주장이 나온다면 그 모델의 편향을 의심해볼 만하다.

챗봇이 출처를 제공할 때는 반드시 눌러봐야 한다. 많은 사람들이 답변만 보고 링크는 그냥 넘기는데, 실제로 열어보면 챗봇이 요약한 내용과 원문 기사의 내용이 전혀 다른 경우가 생각보다 많다. 특히 선거나 정치 주제에서 링크가 아예 없거나 기사를 열었을 때 전혀 다른 내용을 담고 있다면, 그 답변 전체를 처음부터 다시 의심해야 한다. 챗봇이 존재하지 않는 기사를 출처로 인용하는 이른바 환각 현상도 함께 주의해야 한다.

질문을 더 구체적으로 바꾸는 것도 효과가 있다. ‘○○ 후보는 어떤 사람인가’처럼 열린 질문보다 ‘○○ 후보가 2024년 국회 청문회에서 한 발언은 무엇인가’처럼 물으면 챗봇이 임의로 편집할 여지가 줄어든다. 추상적인 질문일수록 모델이 학습 과정에서 흡수한 편향이 더 많이 반영된다. 구체적인 사실을 묻는 질문이 더 안전하다.

결국 챗봇 답변을 최종 확인 수단으로 쓰지 않는 습관이 가장 중요하다. 빠르게 개요를 잡는 용도로 쓰되, 선거 관련 판단은 언론사 원문 기사나 선거관리위원회 공식 자료에서 직접 확인하는 과정을 거쳐야 한다. 챗봇이 틀렸다고 말하는 게 아니다. 다만 편향된 정보가 얼마나 쉽게 챗봇 답변에 섞여드는지를 알고 나면, 자연스럽게 조심하게 된다.