캠페인 클립을 스크롤하던 중 뭔가 이상한 느낌이 들었습니다. 익숙한 얼굴이 결코 말하지 않았을 말을 하고 있었죠. 저도 뱃속에서 뭔가 뒤집히는 듯한 느낌을 받았습니다. 픽셀과 코드로 만들어진 올무였죠. 뉴스 사이클을 바꿀 만큼 강력했습니다. YouTube는 조용히 이 올무를 끌어내릴 수 있는 사람들에게 새로운 도구를 제공했습니다.
YouTube, 정치인에게 AI 딥페이크 감지 도구 확대, 트럼프 포함 여부는 밝히지 않아. 이 도구를 통해 인증된 사용자는 자신의 모습을 특징으로 하는 무단 AI 생성 비디오를 삭제하도록 요청할 수 있습니다. YouTube는 중간 선거를 앞두고 언론인, 정부 관리 및 정치 후보자에게 접근 권한을 확대하고 있으며, 게스트 목록은 공개하지 않을 것이라고 밝혔습니다.
어느 날 밤 늦게 뉴스룸에서 편집자는 클립을 멈추고 “이거 진짜야?”라고 물었습니다.
저는 Amjad Hanif와 Leslie Miller의 YouTube 블로그 게시물에서 이 발표를 추적했습니다. 그곳에서 회사는 이 기능을 시민 안전 조치로 규정했습니다. 이 시스템은 Content ID와 비슷하지만 얼굴을 위한 것입니다. 인증된 모습을 사용하는 AI 생성 클립에 플래그를 지정하고 식별된 사람이 삭제를 요청할 수 있도록 합니다. 바이럴 가짜에 직면한 정치인에게 이 도구는 마스터 키처럼 느껴질 수 있습니다.
YouTube의 외형 감지 기능은 어떻게 작동합니까?
YouTube는 2024년에 유명인과 운동선수를 대상으로 시스템 테스트를 시작한 다음 파트너 프로그램의 크리에이터로 확대했습니다. 등록하려면 비디오 셀카와 정부 ID로 신원을 확인해야 합니다. Google은 이러한 업로드가 확인 용도로만 사용되며 모델을 훈련하는 데 사용되지 않는다고 밝혔습니다. 확인되면 자신의 외형과 일치하는 비디오를 검색하고 삭제 요청을 제출할 수 있습니다. 하지만 감지 또는 요청이 삭제를 보장하지는 않습니다. YouTube는 패러디 및 공익 콘텐츠와 같은 예외를 고려하기 때문입니다.
지난 달 캠페인 집회에서 지지자들은 너무 세련되어 자발적이라고 하기 힘든 클립을 다시 재생했습니다.
AI 도구를 통해 이러한 세련됨은 저렴하고 빨라졌습니다. YouTube는 Google의 비디오 모델 Veo 3의 맞춤형 버전을 포함하여 더 많은 생성 기능을 Shorts에 추가하고 있습니다. 또한 플랫폼 내 편집 도구를 통해 누구나 설득력 있는 딥페이크(정치 행위자 포함)를 제작하는 장벽을 낮춥니다. 도널드 트럼프 전 대통령의 팀이 이전에 AI 생성 외형을 게시한 적이 있으며 YouTube는 그 또는 다른 유명 정치인이 파일럿 코호트에 있는지 확인하지 않았습니다.
YouTube에서 외형 감지 도구를 사용할 수 있는 사람은 누구입니까?
현재 확장은 언론인, 정부 관리 및 정치 후보자를 대상으로 합니다. 파트너 프로그램의 크리에이터는 이미 액세스 권한을 가지고 있습니다. YouTube는 앞으로 몇 주와 몇 달 안에 광범위한 국제 출시를 계획하고 있지만 어떤 관리 또는 기자가 파일럿에 초대되었는지는 밝히지 않을 것입니다. 이러한 비밀 유지는 의도적인 것입니다. 참가자를 공개하는 것 자체가 정치적 논쟁거리를 만들 수 있습니다.
제품 데모에서 Google 엔지니어는 이 도구가 얼굴 일치 여부를 위해 프레임을 스캔하는 방법을 보여주었습니다.
기술적으로 시스템은 제출된 확인 샘플을 업로드된 비디오와 비교하고 확인된 사용자에게 일치하는 항목을 표시합니다. YouTube는 이 프로세스를 Content ID가 저작권이 있는 자료를 관리하는 방식과 유사한 신원 제어 계층으로 취급합니다. 이 플랫폼은 좁은 바늘 구멍을 꿰려고 노력하고 있습니다. 사람들에게 외형이 무기화될 때 구제 수단을 제공하는 동시에 패러디, 풍자 및 자유 표현 문제를 야기하는 가치 있는 뉴스 콘텐츠를 보존합니다.
YouTube는 감지하는 모든 AI 딥페이크를 삭제합니까?
아니요. YouTube는 패러디, 풍자 및 공익 콘텐츠에 대한 예외에 따라 삭제 요청을 평가할 것이라고 밝혔습니다. 이는 주관적인 판단을 프로세스의 중심에 두고 YouTube가 클립이 선을 넘는 위치에 대한 최종 결정을 내리도록 합니다. 고위험 정치 콘텐츠의 경우 이러한 판단은 캠페인, 언론인 및 시민 자유 그룹에 의해 면밀히 조사될 것입니다.
기자와 후보자에게 이 도구는 실용적인 안전 밸브입니다. 플랫폼의 경우 PR 레버이기도 합니다. Google 소유의 YouTube는 Shorts의 Veo 3와 같은 생성 기능을 계속 제공하면서 허구 문제를 해결하는 메커니즘을 가리킬 수 있습니다. 규모에 따라 시스템은 신뢰의 풍향계가 되지만 액세스가 선택적이고 불투명할 때는 깨지기 쉽습니다.
저는 이 제어를 환영하지만 불평등한 액세스를 걱정하는 편집자 및 정책 팀과 이야기를 나눴습니다. 강력한 사람들만 검증된 구제 수단을 얻는다면 딥페이크의 일반 피해자는 구제 수단 없이 남겨질 수 있습니다. ID 데이터가 모델을 훈련하는 데 사용되지 않는다는 YouTube의 주장은 개인 정보 보호에 대한 불안감을 해소하기 위한 것이지만 핵심적인 긴장감을 제거하지는 않습니다. 딥페이크를 가능하게 하는 동일한 플랫폼이 누가 딥페이크를 삭제할 수 있는지 결정합니다.
여기에서 언급된 플랫폼 및 도구에는 YouTube, Google, Veo 3, Shorts 및 Content ID가 포함됩니다. 보고 출처에는 회사 블로그와 Gizmodo의 보도가 포함됩니다. YouTube의 움직임은 거버넌스에 대한 어려운 질문을 제기합니다. 정체성과 영향력이 충돌할 때 누가 우선적으로 보호를 받습니까?
그래서 검증된 사용자 명단에 누가 올라가고 그 목록이 다음 뉴스 사이클을 형성할까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
