폭발 소식으로 가득 찬 피드를 보며 잠에서 깼습니다. 모든 영상이 전쟁을 주장하고, 그중 절반은 가짜일 때 방이 기울어지는 것을 느낄 수 있습니다. 저는 거기에 앉아 생각했습니다. 현실이 값싼 대본이 될 때 누가 이득을 볼까요?
소음을 뚫고 나아가겠습니다. X의 새로운 규칙이 실제로 무엇을 하는지, 누구에게 피해를 주는지, 무엇을 활짝 열어두는지 알아야 합니다. 플랫폼, 도구, 인센티브를 지적하여 무엇이 과장이고 무엇이 다음 가짜 바이러스를 늦출 수 있는지 판단할 수 있도록 하겠습니다.
미국-이란 전쟁 조작
관찰: 제 타임라인은 공격이 있은 지 몇 시간 만에 추락한 미국 조종사 이미지와 텔아비브 상공의 로켓 포격으로 가득 찼습니다.
문제는 이러한 이미지와 영상이 잘못된 캡션이 달린 것이 아니라 조작된 것이라는 점입니다. 일부 게시물에는 Google의 SynthID 워터마크까지 있었는데, 이는 픽셀이 카메라가 아닌 생성기에서 왔다는 신호입니다. Snopes는 바이럴 초상화에서 사라진 손가락을 지적했고, BBC 추적기는 텔아비브 영상에서 이상한 모양의 자동차와 부자연스러운 오디오를 지적했습니다. 신호 대 잡음비가 무너지고 있었습니다.
이전에도 이런 것을 본 적이 있을 것입니다. 신뢰할 수 있는 아티팩트가 떨어지면 수정이 따라잡기 전에 계정, 채널, 봇을 통해 빠르게 튕겨 나옵니다. 피드는 아무것도 아첨하지 않고 모든 것을 왜곡하는 카니발 거울이 되었습니다.
X는 AI 생성 비디오의 수익을 창출하지 못하게 할까요?
X의 제품 책임자인 Nikita Bier는 그 질문의 일부에 답했습니다. 지금부터 AI로 만든 전쟁 영상을 명시적인 공개 없이 게시하는 사람은 90일 동안 크리에이터 수익 공유에서 정지됩니다. 반복적인 위반은 프로그램에서 영구적으로 제거됨을 의미합니다. 이는 광고 수익과 크리에이터 지급을 추구하는 계정인 재정적 인센티브를 목표로 하지만 타임라인에서 콘텐츠를 제거하거나 비금전적 동기를 막지는 않습니다.
잘못 분류된 비디오
관찰: 리야드에서 미국 대사관이 불타고 있다고 주장하는 영상은 실제로는 한 달 된 YouTube 단편 영상이었고, 또 다른 바이럴 영상은 비디오 게임에서 바로 나온 것이었습니다.
진짜 영상 조각이 거짓 내러티브로 재활용되고 있고, 완전히 조작된 영상이 속보로 제시되고 있습니다. X의 새로운 규칙은 생성적 AI 신호(메타데이터, SynthID 마크, 커뮤니티 노트)를 언급하지만 AI가 아닌 콘텐츠의 잘못된 속성 또는 재활용에 페널티가 적용될지 여부는 모호하게 남겨둡니다. 즉, 조회수를 생성하는 게임 엔진 폭발은 여전히 게시자에게 보상을 줄 수 있지만, 수익이 창출되지 않는 것은 합성 비디오입니다.
X는 AI 생성 콘텐츠를 어떻게 감지합니까?
X는 커뮤니티 노트, 모델 메타데이터 및 생성 도구의 기타 신호를 사용하여 게시물을 플래그한다고 말합니다. 그것은 시작이지만 완전한 증거 탐지기는 아닙니다. 나쁜 행위자는 메타데이터를 제거하거나, 중개자를 통해 업로드하거나, AI 클립을 더 긴 실제 영상에 붙여넣을 수 있습니다. 한편, xAI 모델인 Grok는 클립이 실제인지 직접적으로 질문을 받았고 종종 긍정적으로 대답하여 사용자에게 신뢰할 수 없는 중재자를 신뢰하도록 가르칩니다.
가짜 정보의 온상
관찰: Elon Musk가 검증 및 게이트키퍼가 있는 곳으로 알려졌던 이전의 Twitter를 구매한 이후로 사이트는 바이럴 가짜에 대한 반복적인 범죄자가 되었습니다.
2022년 이후 Musk의 정책 변경으로 이전에 금지된 계정에 대한 문이 다시 열렸고 독자가 신뢰를 평가하는 데 도움이 된 기존 확인 신호가 제거되었습니다. 그가 시작한 크리에이터 수익 프로그램은 관심이 소득과 동일한 시장을 만들었습니다. 플랫폼이 바이럴을 보상할 때 기만에도 보상합니다. xAI의 Grok가 준 사실 확인자로 참여하면 혼란만 더해집니다. 한 사용자는 심지어 Grok가 실제라고 말했기 때문에 클립이 실제여야 한다고 주장했습니다.
AI 가짜는 리트윗, 공유 및 긴급성의 심리적 당김을 통해 바이러스처럼 퍼집니다. 그것이 대부분의 조정 시스템이 죽이기 위해 고군분투하는 벡터입니다.
Musk 자신의 인센티브
관찰: Musk는 대부분의 소비자 미디어가 AI 생성되는 미래를 공개적으로 예측했습니다.
그는 Joe Rogan과 다른 곳에서 “5~6년 안에 사람들이 소비하는 대부분의 콘텐츠는 AI 생성 콘텐츠가 될 것”이라고 말했습니다. 그것을 제품 전략으로 읽으면 X의 정책이 완전한 제거보다는 수익 창출을 목표로 하는 이유를 설명합니다. 플랫폼은 관심 경제가 합성으로 이동하면 이익을 얻습니다. Matt Walsh는 X가 레이블이 지정되지 않은 모든 AI를 금지하지 않는 이유조차 물었습니다. Bier의 답변은 지금까지는 수익 창출 게시물을 대상으로 하는 더 좁은 목표입니다.
가짜를 공유하는 정치 행위자는 어떻습니까?
관찰: 유명 인사와 당파 계정은 거짓 클립을 확대하고 삭제했습니다. Fox 호스트, 주지사, 반복적인 허위 정보 게시자.
재정적으로 동기 부여된 공유자의 수익을 창출하지 못하게 하는 것은 합리적이지만 지급에 신경 쓰지 않고 의견에 영향을 미치거나 시장을 공황 상태에 빠뜨리거나 지정학을 기울이려는 사람들을 막지는 못할 것입니다. 레이블과 감소된 수익은 일부 인센티브를 변경합니다. 그들은 국가 행위자, 영향력 작전 또는 혼돈이 보상인 트롤을 막지 않습니다. 당신의 목표가 설득 또는 시장 이동이라면 크리에이터 수익을 잃는 것은 당신이 받아들일 수 있는 비용입니다.
Grok를 전쟁 영상을 확인하는 데 신뢰할 수 있습니까?
아니요. Grok는 xAI의 언어 모델이자 홍보 도구입니다. 신뢰할 수 있는 독립적인 검증 파이프라인이 없으며 종종 환각을 일으키거나 주장을 확인합니다. 그것을 생사를 가르는 영상의 게이트키퍼로 신뢰하는 것은 실수입니다. 인간 검증과 BBC, Snopes 또는 직접 현장 보고와 같은 매체와의 교차 확인이 여전히 중요합니다.
이 정책이 하는 일은 거래를 명시적으로 만드는 것입니다. 공개 없이 AI 전쟁 영상을 게시하면 크리에이터 수익이 위험해집니다. 바이럴을 막지 못하고 정치 행위자를 막지 못하며 공개적으로 콘텐츠를 제거하지 않습니다. 많은 사람들에게는 그것이 가솔린 누출에 대한 종이 붕대처럼 느껴질 것입니다.
Google의 SynthID 워터마크, Snopes의 손가락 세기 정보, BBC 추적기, YouTube 타임스탬프 및 X의 커뮤니티 노트 프로세스와 같은 플랫폼과 신호를 지적했습니다. 이제 클립이 피드에 도착할 때 어디를 봐야 하는지, 어떤 질문을 해야 하는지 알게 되었습니다. 정책이 다음 전쟁 가짜의 물결을 늦출 것인가, 아니면 증폭 엔진을 그대로 둔 채 화장품 변화일 뿐인가?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
