오전 2시 14분에 내 피드에 뜬 것은 제프리 엡스타인과 도널드 트럼프가 함께 웃는 모습이 담긴 흐릿한 영상 클립이었고, 이어서 같은 화면에 일론 머스크와 빌 게이츠가 등장했습니다. 모두 “가짜 아님”이라고 표시되어 있었습니다. 나는 긴장했습니다. 아침이 되자 이 클립은 수백만 조회수를 기록했고, 수십 개의 봇 계정이 이를 더 큰 이야기로 엮어냈습니다.
저는 이전에 허위 정보를 추적해 본 적이 있습니다. 이걸 실마리처럼 다뤄야 합니다. 신호는 혼란스럽지만 패턴은 분명합니다. 워싱턴 포스트가 밝혀낸 내용, 왜 실제 증거가 존재하는데도 이러한 AI 가짜가 중요한지, 플랫폼이 무엇을 잘못하고 있는지 보여드리겠습니다.
소셜 피드에서: 클립이 입소문을 타고 사본으로 썩어가는 것을 지켜봤습니다.
관찰: 워싱턴 포스트는 엡스타인과 트럼프를 짝지은 AI 생성 영상을 퍼뜨린 X의 계정(HDX 뉴스 및 GPX 뉴스)을 확인했습니다.
해당 클립은 단순한 창작 편집이 아니었습니다. 다큐멘터리 증거처럼 보이도록, 그리고 빠르게 퍼지도록 설계되었습니다. 한 캡션에는 이렇게 적혀 있었습니다. “이 영상은 가짜가 아닙니다. 이 소아성애 변태들이 이 이야기가 나오지 않도록 전쟁을 시작했습니다.” 이 문구는 비난이자 예방 접종 역할을 합니다. 분노를 조장하면서 면밀한 조사를 막으려 합니다.
이것이 중요한 이유: 가짜 시각 자료는 거짓말을 하는 것 이상의 역할을 합니다. 이미 공개된 실제 기록에 대한 의심을 심습니다. 트럼프와 엡스타인을 연결하는 진정한 사진, 영상, 공식 문서가 있습니다. 가짜는 사람들이 모든 것을 한꺼번에 의심하게 만들 수 있는 소음을 만듭니다.
이 영상은 진짜인가요?
아니요. 독립적인 연구자와 기자들은 가장 빠르게 입소문이 난 클립이 AI 생성 및 봇 증폭으로 추적된다는 것을 밝혀냈습니다. 포스트는 영상을 퍼뜨린 여러 계정이 친이란 메시지와 관련이 있다는 것을 발견했습니다. 신문사가 X에 문의한 후에야 많은 계정이 정지되었습니다.
This video is not fake.
These pedophile perverts started a war so that this wouldn’t be talked about. pic.twitter.com/bYLDn970Fq
— Hamaad حماد (@ashrafhamaad) March 3, 2026
계정 수준에서: 메시지 의제를 가리키는 패턴을 추적했습니다.
관찰: 언급된 두 개의 X 계정은 수백만 조회수를 기록했고, 많은 카피봇 계정이 동일한 자료를 다시 게시했습니다.
패턴은 조정된 것처럼 보였습니다. 동일한 캡션, 몇 분 내에 다시 업로드, 그리고 이란의 입장에 유리한 내러티브를 추진하는 다른 콘텐츠가 혼합되어 있었습니다. 포스트의 연구원들은 15개 계정 중 9개를 “인증됨”으로 표시했습니다. 이는 언론의 신뢰성을 나타내는 표시가 아니라 현재 X에서 구독으로 구매할 수 있는 파란색 체크 표시가 어떻게 무기화될 수 있는지에 대한 증거입니다. 인증 서비스는 일론 머스크가 모델을 변경한 후 한 달에 약 8달러(7유로)였습니다. 이 변경으로 인해 나쁜 행위자가 더 공식적으로 보일 수 있었습니다.
이것이 중요한 이유: 조정된 증폭은 단일 합성 클립을 인지된 증거로 바꿉니다. 봇 및 유료 계정 네트워크는 외국 메시지 캠페인에 유용하기 위해 국가 자금 지원을 받을 필요가 없습니다. 규모와 타이밍만 필요합니다.
왜 친이란 계정이 이러한 가짜를 퍼뜨릴까요?
간단한 대답: 정치적 혼란을 확대하고 신뢰를 약화시키기 위해서입니다. 이러한 계정이 테헤란의 직접적인 자금 지원을 받든 기회주의적 대리인이든 효과는 동일합니다. 서방 지도자에 대한 불신을 확대하고, 경쟁적인 스캔들을 흐리고, 뉴스룸과 플랫폼을 방어적인 자세로 몰아넣습니다.
플랫폼에서: 약속을 기록한 다음 느린 응답을 발견했습니다.
관찰: 플랫폼은 전쟁이 고조됨에 따라 AI 가짜를 단속하겠다고 공개적으로 약속했지만 제거가 지연되었습니다.
X, Instagram, TikTok은 모두 2월 28일 이후 AI 생성 전쟁 영상이 급증했다고 보고했습니다. 그러나 포스트가 지적한 특정 계정은 기자들이 질문을 던진 후에야 정지되었습니다. 그 지연은 중요합니다. 몇 시간 또는 며칠 동안 유포되는 거짓말은 참여와 공유가 누적되면 수정하기가 더 어려워집니다.
플랫폼에는 콘텐츠 ID, 출처 라벨, 인적 검토 팀 및 API 신호와 같은 도구가 있지만 항상 경쟁합니다. 문제는 기술적인 것보다 심리적인 것입니다. 사용자는 움직이는 이미지를 증거로 취급하고 소셜 시스템은 선정적인 것을 보상합니다. 그 결과는 테이크다운 시스템이 대응할 수 있는 것보다 더 빠르게 가짜를 확대하는 피드백 루프입니다.
플랫폼은 언론의 자유를 침해하지 않고 어떻게 이것을 막을 수 있을까요?
세 가지가 동시에 작동해야 합니다. 업로드에 포함된 더 나은 출처 메타데이터, 고속 클립에 대한 신속한 인적 검토, 구매한 인증에 대한 마찰입니다. 연구자, 워싱턴 포스트와 같은 매체, 플랫폼 간의 더 많은 파트너십이 예상됩니다. 외부 조사가 지금까지 조정된 캠페인을 발견하는 데 가장 효과적인 힘이었기 때문입니다.
실제에서: 실제 이름과 합성 얼굴을 혼합한 클립을 추적했습니다.
관찰: 한 인기 있는 바이럴 편집은 AI 생성된 엡스타인-트럼프 영상과 일론 머스크, 빌 게이츠, AI 생성된 디디의 가짜 출연을 혼합했습니다.
그러한 종류의 합성물은 여러 평판을 하나의 감정적 매듭으로 묶도록 설계되었습니다. 그것은 일종의 연상 감염입니다. 짧은 영상에서 강력한 이름을 외설적인 행위에 연결할 수 있다면 클립은 기존의 의심을 납치하고 증폭시킵니다.
심리학은 단순하고 추악합니다. 분노는 뉘앙스보다 빠르게 이동합니다. 클립 제작자는 그 속도를 기대하고 있습니다. 그들은 설명이 아닌 분노를 원합니다. 클립은 무대 마술사처럼 작동하여 방법이 숨겨지도록 주의를 돌립니다. 그리고 거짓말이 수천 번 리트윗되면 평범한 시청자에게는 기록의 일부처럼 느껴질 수 있습니다.
분명히 하고 싶습니다. 엡스타인과 그의 권력자와의 관계에 대한 실제 문서화된 자료가 있습니다. 위험은 가짜가 아무것도 없는 이야기에서 만들어내는 것이 아니라 진실과 광경을 구별하려는 노력을 포기하도록 사람들을 소음의 홍수 아래 묻어버리는 것입니다.
지금 당장 사용할 수 있는 도구: X와 Instagram에서 출처 라벨을 확인하고, 의심스러운 프레임을 역 이미지 검색하고, 포렌식 작업을 수행하는 신뢰할 수 있는 매체를 이용하십시오. 연구자들과 언론인들은 여전히 여러 출처, 메타데이터, 생성 도구에 의해 남겨진 코드 발자국을 비교하여 최고의 가짜를 잡아냅니다.
이것이 공공 신뢰에 의미하는 것: 봇 타이밍에 따라 내러티브가 뒤집히는 것을 봤습니다.
관찰: 합성 클립이 주요 지정학적 사건과 같은 순간에 도착하면 산불처럼 증폭됩니다.
그 타이밍은 우연이 아닙니다. 목표가 엡스타인 파일에서 주의를 돌리거나 지정학적 이점을 위해 스캔들을 무기화하는 것이든 전략은 단일 결과를 생성하는 것을 목표로 합니다. 혼란입니다. 대중이 모든 것의 진실성을 의심할수록 강력한 행위자가 불편한 질문에 대답해야 할 압력이 줄어듭니다.
그것을 그림 위에 자라는 곰팡이로 생각하십시오. 표면이 가려지면 원래 이미지를 복원하기가 더 어려워집니다.
저는 선전 네트워크를 따라왔고, 항상 동료들에게 말하는 것을 말씀드리겠습니다. 모든 바이럴 클립을 소스로 취급하는 것을 멈추고 단서로 취급하십시오. 확인하고, 교차 확인하고, 갑작스러운 인증과 동기화된 재게시가 있는 계정을 의심하십시오. 플랫폼은 더 빨리 행동해야 하지만 당신과 나는 첫 번째 전화를 걸 수 있습니다.
친이란 행위자가 AI와 플랫폼 설계를 악용하여 엡스타인과 트럼프에 대한 허위 시각 자료를 확대하는 경우 대중의 분노가 플랫폼을 바꾸도록 강요할까요, 아니면 소음이 계속 승리할까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
