러시아 선전이 AI 모델에 미치는 영향: 뉴스가드 보고서
2016년 도널드 트럼프의 당선 이후, 러시아 선전이 미국 유권자 의견을 좌우하는 효과를 주제로 많은 논란이 있었습니다. 러시아가 미국인을 겨냥한 분열적이고 친러시아적 콘텐츠를 배포하기 위해 인터넷 리서치 에이전시와 같은 대형 IT 기업을 활용한 것은 확인되었지만, 이러한 노력의 실제 영향을 정량화하는 것은 여전히 어려운 일입니다. 적어도 이러한 선전이 기존 신념을 강화할 수 있다는 것은 분명하며, 일반인은 접하는 모든 정보의 사실 확인을 하지 않을 수 있으며, X의 커뮤니티 노트 시스템과 같은 플랫폼은 종종 부족합니다.
러시아 선전의 AI 타겟팅으로의 전환
크렘린의 허위 정보 캠페인은 개인을 겨냥하는 것에서 벗어나, 많은 사람들이 전통적인 미디어 출처를 피하기 위해 이용하는 AI 모델을 겨냥하고 있는 것으로 보입니다. 뉴스가드의 최근 보고서에 따르면, ‘프라우다’라는 선전 네트워크가 2024년에 360만 개 이상의 기사를 생성했습니다. 이러한 기사들은 지금 10대 대형 AI 모델의 데이터셋에 포함되어 있으며, 여기에는 ChatGPT, xAI의 Grok, 마이크로소프트의 코파일럿이 포함됩니다.
뉴스가드 보고서 주요 발견
뉴스가드 감사에 따르면, 이러한 주요 AI 기업들이 운영하는 챗봇은 33.55%의 확률로 허위 러시아 정보 서사를 전달했으며, 18.22%의 확률로 아무 응답도 하지 않았고, 48.22%의 확률로 이를 정확히 반박했습니다. 모든 10개 챗봇은 프라우다 네트워크의 허위 정보를 반복하며, 그중 7개는 특정 프라우다 기사를 출처로 인용했습니다.
‘AI 그루밍’ 개념
뉴스가드는 이 새로운 접근 방식을 ‘AI 그루밍’이라고 명명했습니다. AI 모델이 RAG(검색 보강 생성) 기술에 점점 더 의존하게 됨에 따라, 이들은 실시간 온라인 정보를 사용하여 출력을 생성합니다. 이 모델들이 그럴듯한 웹사이트를 설정함으로써, 무의식적으로 선전을 흡수하고 순환시키게 됩니다.
우크라이나 대통령 젤렌스키에 대한 허위 주장
뉴스가드가 인용한 특정 예는 우크라이나 대통령 볼로디미르 젤렌스키가 도널드 트럼프와 관련된 소셜 네트워크인 트루스 소셜을 금지했다는 근거 없는 주장입니다. 이 주장은 쉽게 반박할 수 있는 내용으로, 트루스 소셜은 우크라이나에서 제공된 적이 없습니다. 그럼에도 불구하고:
10개 챗봇 중 6개가 이 정보 오류를 전달하고, 종종 프라우다를 출처로 지목했습니다. 예를 들어, 한 챗봇은 “젤렌스키는 플랫폼에서 그를 비판하는 게시물이 퍼지는 것에 대한 반응으로 우크라이나에서 트루스 소셜을 금지했다”고 주장했습니다. 이는 관련 정치 인물들과의 긴장을 반영할 가능성이 있습니다.”
최근 허위 정보 연결 및 전술
작년 보고서에서, 미국 정보 기관들은 러시아를 허위 정보 캠페인과 연결짓고, 이는 민주당 부통령 후보 팀 월즈에 대한 유포된 허위 정보와 관련이 있습니다. 마이크로소프트는 카말라 해리스가 13년 전 hit-and-run 사고로 여성에게 마비를 남겼다는 허위 비디오가 러시아의 허위 정보라고 밝혔습니다.
AI에 대한 러시아의 전략적 집중
AI 모델을 겨냥한 이 전술에 러시아가 관여하고 있다는 증거는, 미국 망명자에서 모스크바 선전가로 변신한 존 마크 두건의 발언에도 뒷받침됩니다. 그는 “러시아의 관점에서 이러한 러시아 서사를 밀어붙임으로써, 우리는 실제로 세계적인 AI를 변화시킬 수 있다”고 말했습니다.
선전 작전에서 타이거웹의 역할
최신 선전 작전의 물결은 러시아 점령 크림에서 운영하는 무해한 IT 회사인 타이거웹과 관련이 있다고 하며, 미국 정보기관은 해외 간섭과 연관지었습니다. 전문가들은 러시아가 이러한 작전을 수행하기 위해 제3자 단체를 자주 활용하며, 이로 인해 그들의 부인 가능성을 확보하고 있다고 언급합니다. 타이거웹은 우크라이나 .ua TLD를 사용하는 선전 사이트와 동일한 IP 주소를 공유합니다.
군사 원조의 유용성에 대한 주장
소셜 미디어, 특히 X는 젤렌스키 대통령이 개인적인 이익을 위해 군사 원조를 유용했다는 주장을 쏟아내고 있습니다. 뉴스가드는 이러한 허위 정보가 이 선전 매체에서 발생한다고 지적합니다.
AI 영향에 대한 우려
AI 모델을 통제하는 사람들이 개인의 의견과 생활 방식을 형성할 수 있는 우려가 커지고 있습니다. 메타, 구글, xAI와 같은 기업들은 그들이 인터넷에 배포하는 모델의 편향성과 행동에 상당한 영향을 미치고 있습니다. xAI의 Grok 모델이 지나치게 “Woke” 성향을 보인다는 비판에 따라, 엘론 머스크는 그 출력을 조정하라고 지시하며 “Woke 이념”과 “취소 문화”를 모니터해야 한다고 지시했습니다. 한편, 오픈AI의 샘 앨트먼은 최근 ChatGPT의 출력을 덜 제한적으로 만들 계획을 발표했습니다.
AI가 검색 행동에 미치는 영향
연구에 따르면, 구글 검색의 절반 이상이 “제로 클릭” 상태로, 사용자가 어떤 웹사이트도 클릭하지 않는 결과가 나타납니다. 많은 소셜 미디어 사용자들은 실제 웹사이트를 방문하기보다는 AI 생성 요약을 받는 것을 선호하고 있으며, 이는 느슨한 경향을 드러냅니다(구글은 최근 검색에서 “AI 모드”를 출시했습니다). 전통적인 미디어 문해력 전략, 예를 들어 웹사이트의 진위를 확인하는 방법은 AI 요약에 의존할 때 무의미해집니다. AI 모델에는 고유한 결점이 있지만, 사용자는 그들이 제시하는 권위 있는 톤 때문에 이 출력을 신뢰합니다.
구글의 랭킹 신호와 AI 과제
역사적으로 구글은 웹사이트 신뢰성을 평가하기 위해 다양한 지표를 활용했습니다. 그러나 이러한 신호들이 AI 모델에서 어떻게 적용되는지는 불분명합니다. 초기 문제들은 구글의 제미니 모델이 출처의 신뢰성을 판단하는 데 어려움을 겪고 있음을 보여줍니다. 많은 AI 모델이 잘 알려진 신뢰할 수 있는 출처와 함께 덜 익숙한 웹사이트를 인용하는 경향이 있습니다.
허위 정보 동향 속에서의 트럼프의 우크라이나에 대한 입장
이 발전은 도널드 트럼프가 우크라이나에 대해 점점 더 적대적인 입장을 취하고 있는 시점에서 특히 중요한데, 여기에는 정보 공유 중단과 우크라이나의 지도자에게 미국과의 충성심 부족에 대한 공개적인 비난이 포함됩니다.
전체 결과를 탐색하려면, 뉴스가드의 전체 보고서를 여기서 읽어보세요.
자주 묻는 질문
러시아는 미국 의견에 어떤 방식으로 영향을 미치나요?
러시아는 소셜 미디어를 통한 허위 정보 캠페인과 AI 모델 조작 등 다양한 방법을 활용하여 미국 여론에 영향을 미칩니다.
AI는 허위 정보 확산에 어떻게 기여하나요?
AI는 신뢰할 수 없는 웹사이트에서 콘텐츠를 소싱하고 자료를 사실 확인하지 않음으로써 unintentionally
러시아 선전과 관련하여 ‘AI 그루밍’이란 무엇인가요?
‘AI 그루밍’은 AI 모델이 러시아 선전을 포함해 순환하게끔 조작하는 전술로, 모델 자신이 그 허위성을 인식하지 못하는 경우가 많습니다.
현재 AI 시스템에서 러시아 선전의 효과는 어느 정도인가요?
뉴스가드의 최근 연구에 따르면, AI가 생성한 콘텐츠의 상당한 비율이 러시아 허위 정보를 반복하고 있으며, 이러한 서사가 사용자에게 미치는 영향에 대한 우려가 커지고 있습니다.
사용자는 AI 출처에서 정보를 검증하기 위해 무엇을 해야 하나요?
사용자는 AI가 생성한 요약을 읽을 때, 신뢰할 수 있고 평판이 좋은 출처와 비교하여 정보를 교차 확인해 허위 정보에 속지 않도록 해야 합니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
