체포되어 번쩍이는 불빛이 시야를 흐리게 한다고 상상해 보세요. 그러다 당신의 얼굴이 소셜 미디어에 큼지막하게 실리고, 눈물을 글썽이는 엉망진창인 모습으로 조작됩니다. 백악관이 공유했지만, 눈물은? 아마도 AI가 생성했을 것입니다. 이제 당신은 세상에서 가장 강력한 존재가 당신의 이미지와 명성을 왜곡할 때 반격할 수 있는지 궁금해합니다.
민권 변호사인 네키마 레비 암스트롱의 사례는 이를 분명히 보여줍니다. 세인트폴 교회에서 목사의 ICE 협력 혐의에 대한 항의 시위 중 체포된 후, 그녀의 조작된 이미지가 표면에 드러났습니다. 주장은? 백악관 X 계정(구 트위터)에 AI가 생성한 것으로 보이는 이미지가 게시되었습니다. 그녀의 변호사는 명예훼손이라고 부릅니다.
레비 암스트롱과 세인트폴 교육위원회 위원인 촌틸 앨런은 1월 23일 FACE 법 위반 혐의로 체포되었습니다. 이 법은 종교 의식을 위협하거나 방해하는 것을 금지합니다. 레비 암스트롱의 남편이 촬영한 영상에는 관련된 요원들이 담겨 있습니다.
레비 암스트롱은 7분 영상에서 “왜 녹화하고 있습니까?”라고 물었습니다. “녹화하지 마십시오.”
정체를 알 수 없는 요원은 “트위터에 올라가지 않을 것입니다.”라고 말했습니다. “그런 것에는 아무것도 올라가지 않을 것입니다.”
그러나 거기에 있었습니다. 국토안보부 장관 크리스티 노엠은 처음에는 중립적인 표정으로 사진을 게시했습니다. 그러나 백악관 X 계정은 다른 것을 보여주었습니다. 눈물이 얼굴을 타고 흐르고, 인공 지능을 통해 만들어진 고통이나 후회의 징후였습니다. 이것은 명예훼손이었을까요? 레비 암스트롱의 변호사 조던 쿠슈너는 그렇다고 생각합니다.
쿠슈너는 “백악관이 누군가를 불신하게 만들려고 이야기를 꾸며내는 것은 정말 터무니없습니다.”라고 말했습니다. “그녀는 완전히 침착하고 냉정하고 합리적이었습니다. 우는 사람은 아무도 없었습니다. 그래서 이것은 정말 터무니없는 명예훼손입니다.”
최고위 기관으로부터 그러한 노골적인 행위를 당했을 때 개인이 가질 수 있는 선택 사항은 무엇일까요? 전문가들은 정의로 가는 길은 장애물로 가득 차 있다고 말합니다.
명예훼손 주장이 정부 선전에 맞설 수 있을까요?
이것을 생각해 보십시오. 당신은 힘들게 당신의 명성을 쌓았지만, 날조된 이미지의 무게에 무너지는 것을 지켜볼 뿐입니다. 산타클라라 대학교 로스쿨의 법학 교수인 에릭 골드먼은 아이러니를 강조합니다. 정부는 AI 오용을 규제하려고 시도하면서도 바로 그것을 막으려고 하는 행동을 하고 있습니다. 그는 “정부가 시민들이 참여하는 것을 막으려고 하는 최악의 행동을 롤 모델링하고 있는 것”이라고 말합니다.
골드먼은 “정부가 이미지를 조작했다고 주장하지 않고 의도적으로 허위 이미지를 내놓는 것을 보는 것은 너무나 충격적입니다. 이것을 우리는 정부 선전이라고 부릅니다.”라고 말했습니다.
명예훼손 주장이 타당하려면 골드먼은 여러 요소가 일치해야 한다고 설명합니다.
골드먼은 “그녀는 허위 사실 진술이 있었다는 것을 보여줘야 합니다. 그리고 일반적으로 우리는 사진을 사실의 결정적인 진술로, 즉 묘사된 내용에 대해 진실하다고 취급하지만, 정부가 그것이 패러디이거나 너무나 명백하게 거짓이어서 모든 사람이 거짓이라는 것을 알고 있었고 따라서 사실의 진술이 아니었다고 주장하더라도 놀라지 않을 것입니다.”라고 말했습니다.
골드먼은 “자, 그건 궤변일 뿐이죠? 명예훼손법이 의미가 있다면 진실된 것으로 제시되는 허구의 사진에 적용될 것입니다. 마치 그것이 다뤄야 할 내용인 것처럼요. 하지만 정부는 바로 첫 번째 요소에서 승리할 수도 있습니다.”라고 덧붙였습니다.
또한 그 진술은 누군가의 명성을 입증적으로 손상시켜야 합니다. 변호 측은 체포 중에 우는 것이 명예를 손상시키는 것이 아니라고 주장할 수 있으며, 골드먼은 그 주장이 문제가 있다고 생각합니다. 그런 다음 레비 암스트롱이 공인이냐는 질문이 있습니다.
골드먼은 “명예훼손 주장을 제한하는 수정헌법 제1조 방어권이 있습니다. 그리고 그들은 공공의 관심사와 공인에 적용되는 주장에 대한 기준을 높였습니다. 그리고 저는 사진 속 인물이 공인 자격이 있을 수 있고 그녀의 체포는 분명히 공공의 관심사였다고 주장할 것입니다.”라고 말했습니다.
마지막으로 정부가 그 진술이 거짓이라는 것을 알고 있었고 해를 끼치려는 의도가 있었다는 것을 입증하는 “실제 악의”가 입증되어야 합니다. 사진을 조작하고 그것을 진짜로 제시하는 것은 이것을 암시할 수 있지만, 그렇더라도 앞으로 나아갈 길은 불분명합니다.
그 상황은 물총으로 산불과 싸우는 것에 비유할 수 있습니다. 승산은 개인에게 불리하게 작용합니다.
결론은? 골드먼은 “그녀가 소송을 제기하더라도 이길지는 불분명합니다.”라고 말합니다.
다른 법률 전문가들도 동의합니다. 명예훼손 사건은 이기기 어렵습니다. 전통적인 해결책은? 거짓말을 하는 정치인을 투표로 몰아내는 것입니다.
골드먼은 “정치인들이 허위 정보를 발표한다면 유권자들이 그들을 처벌할 것이라고 가정했습니다.”라고 말했습니다. “그리고 한때는 사실이었을 수도 있지만 그 모델은 분명히 무너졌습니다.”
어떤 AI 이미지 생성기가 딥페이크를 만들 수 있을까요?
어떤 AI 도구가 이미지를 만들었는지에 대한 질문은 여전히 답이 없습니다. 그러나 실험을 통해 흥미로운 제한 사항이 드러납니다. Google의 Gemini와 OpenAI의 ChatGPT는 그러한 이미지를 생성하도록 유도할 수 있었습니다. 반면에 Microsoft Co-Pilot과 Anthropic의 Claude는 잠재적인 오용을 이유로 거부했습니다.
xAI의 Grok은 어떻습니까? 우리가 시도했을 때 서비스가 다운되었습니다. 그러나 Grok은 일론 머스크가 당신이 할 수 있도록 하는 다른 모든 것을 고려할 때, 다른 사람을 조롱하기 위해 울게 만들 수 있을 것이라고 안전하게 말할 수 있습니다.
우리는 미지의 바다를 항해하고 있습니다. 정부는 항상 어느 정도의 속임수에 관여해 왔습니다. 그러나 최근의 거짓말의 뻔뻔함, 완전한 투명성은 놀랍습니다.
크리스티 노엠은 일요일에 마이크 앞에 나와서 미니애폴리스에서 ICE 요원에게 살해당한 알렉스 프레티를 국내 테러리스트라고 불렀습니다. 그녀는 VA의 37세 ICU 간호사가 “폭력을 영구화”하기 위해 나타났다고 말했습니다. 너무 끔찍하지 않다면 재미있을 것입니다. 정부는 처벌받지 않고 거짓말을 하고, 우리는 모두 가면을 쓴 국가 요원에게 거리에서 살해당한 동정심 많고 배려심 있는 남자를 볼 수 있다는 것을 신경 쓰지 않습니다.
정부가 단순한 말보다 더 나아가 AI 날조로 우리가 보는 이미지를 조작하려고 시도할 때, 마치 진실 이후의 사회의 문턱에 있는 것처럼 훨씬 더 나쁘게 느껴집니다. 불행히도 많은 트럼프 지지자들은 신경 쓰지 않는 것 같습니다.
정부의 허위 정보에 대해 시민은 어떤 구제책이 있을까요?
AI가 생성한 선전을 둘러싼 법적 환경은 불분명합니다. 골드먼이 지적했듯이 그러한 남용을 처벌할 수 있는 도구는 단순히 부적절할 수 있습니다.
골드먼은 “정부가 딥페이크 AI를 무기화하여 유권자에게 거짓말을 하는 것에 대한 논의가 충분하지 않았다고 생각합니다.”라고 말했습니다. “그리고 우리는 그러한 남용에 대해 정부를 처벌할 수 있는 적절한 자원 세트를 가지고 있지 않을 수도 있습니다.”
골드먼은 “구제책이 무엇인지 모르겠습니다. 우리는 그들이 충분히 강력하지 않다고 생각하지만, 유권자들이 학대적인 선전에 대해 정치인에게 보상할 것이라는 점이 더욱 두렵습니다. 이것이 ‘진보주의자들을 소유한다’는 의미일 수도 있습니다.”라고 말했습니다.
이것은 단순한 선전 그 이상입니다. 그것은 현실의 계산된 왜곡입니다. 신중하게 만들어진 이야기는 카드 집과 같아서 약간만 밀어도 무너질 준비가 되어 있습니다. 문제는 덱이 쌓여 있다는 것입니다. 우리는 진실이 정치적 전쟁의 희생자가 되는 현실을 받아들일 준비가 되었습니까?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
