지난 주 연방수사국(FBI) 공익광고를 발행했다 딥페이크 노골적인 콘텐츠의 증가와 그것이 강탈, 협박, 괴롭힘과 같은 범죄에 어떻게 사용되고 있는지에 대한 내용입니다. 가장 단순한 용어로, 딥페이크는 원본을 모방하려는 합성 멀티미디어 자료입니다. AI 세대의 사진, 비디오 또는 오디오 클립이 될 수 있습니다.
“딥페이크”라는 이름은 이러한 미디어를 만드는 데 사용되는 고유한 기술인 딥 러닝에서 유래되었습니다. 딥 러닝은 원본 자료를 사용하여 AI 모델을 훈련한 다음 원하는 결과를 생성하도록 수정하는 것을 포함합니다. 정확히 새로운 발명품은 아니지만 생성 AI의 인기와 접근성이 폭발적으로 증가함에 따라 딥페이크 범죄가 증가하고 있습니다.
인기가 너무 많아서 공화당 대선 후보인 론 데산티스의 캠페인조차도 라이벌 도널드 트럼프의 딥페이크 이미지를 사용하여 그를 비방했습니다. 딥페이크는 또한 AI 규제 요구가 곳곳에서 제기되는 이유 중 하나입니다. FBI에 따르면, 딥페이크를 생성하는 콘텐츠는 일반적으로 소셜 미디어 게시물과 화상 통화 클립에서 가져온 다음 협박과 괴롭힘을 위한 성적으로 노골적인 자료로 수정됩니다.
전문가들이 딥페이크에 대해 말하는 것
그렇다면 해결책은 무엇일까요? 안타깝게도 해결책은 없습니다. 최소한 타협 없이는 말입니다. 타협은 “소셜 미디어”의 의미를 근본적으로 뒤집습니다.
“불행히도, 당신의 사진이나 비디오가 딥페이크를 만드는 데 사용되지 않도록 하는 유일한 방법은 온라인에 자신의 사진을 게시하는 것을 중단하는 것입니다. 하지만 그렇게 하려면 인터넷 사용자들이 엄청난 즐거움을 얻지 못할 것입니다.”라고 사이버 보안 고문인 Adrianus Warmenhoven이 말했습니다. 노르드.
“새롭고 더 나은 보안 관행이 등장함에 따라 악의적인 행위자들은 해를 끼칠 방법을 찾을 것입니다. 따라잡기 게임이며 때때로 실망스럽습니다.”라고 전직 Googler이자 차세대 비밀번호 관리 도구인 Parteek Saran이 말했습니다. 우노. 그는 또한 소셜 미디어에 콘텐츠를 게시할 때 “제로 트러스트 철학”을 시도하고 채택해야 하며, 딥페이크 사기를 피하기 위해 지인과의 효과적인 소통을 강조합니다.
“AI는 디지털 안전 문제를 해결하는 데 도움이 될 수 있지만 완벽한 안전망은 없습니다.”라고 디지털 안전 전문가이자 CMO인 Yaron Litwin이 말했습니다. 천개. 이 회사의 동명 앱은 온라인 성범죄로부터 어린이를 안전하게 보호하는 것을 목표로 하며 다양한 보호자 관리 기능도 제공합니다. 리트윈은 친밀하거나 타협적인 이미지를 게시하는 것은 피해야 하며 정상적인 이미지 게시 빈도도 줄여야 한다고 덧붙입니다.
자신을 안전하게 지킬 수 있는 방법
딥페이크는 무섭고, 그것이 사람과 그 가족에게 줄 수 있는 트라우마를 헤아리기 어렵습니다. 하지만 사용자가 함정에 빠지는 것을 피하거나 적어도 크게 피할 수 있는 몇 가지 방법이 있습니다.
일반적인 디지털 기술을 갖춘 평균 스마트폰 사용자가 취할 수 있는 단계를 이해하기 위해 저는 연구 및 혁신 부사장인 Andrew Gardner에게 연락했습니다. 젠디지털Norton, Avast, Avira 등을 비롯하여 신뢰할 수 있는 보안 도구를 제공하는 소프트웨어 회사입니다.
가드너는 안전 프로토콜이 기본 수준에서 시작된다고 말합니다. 사용자는 프로필을 비공개로 전환하거나 최소한 게시물 가시성 설정을 변경하여 서로 팔로우하는 사람만 게시물을 보고 상호 작용할 수 있도록 해야 합니다. 현재 거의 모든 주요 소셜 미디어 플랫폼에서 사용할 수 있는 보호자 관리 기능은 보호자가 의심스러운 상호 작용을 주시할 수 있도록 부지런히 활성화해야 합니다.
아는 사람의 요청만 수락해야 한다는 것이 일반적인 조언이지만, 한 걸음 더 나아가면 많은 도움이 될 수 있습니다. 가드너는 “네트워킹을 한다면 초대받은 사람의 최근 게시물과 활동을 확인하여 얼마나 진짜인지 판단하세요”라고 말하며, “친구가 적거나 공통된 친구가 있는 계정”에는 주의해야 한다고 덧붙였습니다. Gen Digital 임원이 제공해야 할 또 다른 중요한 조언은 소셜 미디어 로그인을 확인하고 제한하는 것입니다.
사용자는 종종 온라인 서비스를 방문하고, 계정을 만드는 번거로움을 피하기 위해 소셜 미디어 로그인 옵션을 선택합니다. 그는 “이렇게 하면 앱이 개인 정보에 액세스할 수 있으며, 어떤 상황에서는 해당 앱이 해당 정보를 제3자에게 판매합니다.”라고 말합니다. Facebook과 관련된 Cambridge Analytica 스캔들이 좋은 예입니다. 사용자는 주기적으로 자신의 소셜 미디어 계정에 연결된 앱을 확인해야 하며, 필요하지 않은 경우 액세스를 취소해야 합니다.
딥페이크는 정교한 AI 기반 범죄이지만, 가드너는 사용자가 여전히 2단계 인증 활성화, 강력한 비밀번호 사용, 생체 인식 패스키 활성화, 의심스럽거나 알 수 없는 링크 피하기 등 일부 기본적인 안전 지침을 준수해야 한다고 제안합니다.
안전하고 책임감 있게 이루어지는 소셜 미디어
캐노피의 리트윈은 더 많이 공유할수록 설득력 있는 딥페이크를 만드는 것이 더 쉬워진다고 생각합니다. 노골적인 자료를 만드는 데 아무런 제한이 없는 그늘진 AI 이미지 생성 모델이 부족하지 않습니다. 이러한 도구는 모델을 훈련하기 위해 이미지 입력에 의존합니다. 더 많은 훈련 데이터를 제공할수록 딥페이크가 더 정확하고 현실적이 됩니다.
이는 MidJourney와 같은 주류 AI 이미지 생성기가 구현하는 표준 전략입니다. 소셜 피드가 열려 있고 충분한 양의 사진과 비디오가 있는 경우, 악의적인 행위자가 이를 스크래핑하여 타협적인 딥페이크를 만드는 것을 막을 수 없습니다. 하지만 가장 소중한 추억을 보존하는 장소로서 소셜 미디어에 가치를 두는 사람 중 한 명이라면, 몇 가지 조치를 취해야 합니다. ~ 해야 하다 가져가다.
“온라인에서 공유하는 개인 정보에 주의하고, 계정의 개인 정보 보호 설정을 조정하고, 2단계 인증을 활성화하고, 이미지에 결함이 있는지 주의 깊게 검토하세요.”라고 언급했습니다. 보이드 클루이스포브스 보안 위원회의 사이버 보안 전문가이자 “방화벽을 통해: 위기를 기회로 바꾸는 연금술”의 저자입니다.
하지만 딥페이크를 만들고 유포하는 것과 같은 불법적인 행위에 연루된 악의적인 행위자가 있는 소셜 미디어 프로필을 어떻게 확실하게 발견할 수 있을까요? “의심스러운 프로필에서 비디오나 오디오 자료가 공유되고 계정에 개인 정보나 사진이 없다면 그 프로필은 가짜일 가능성이 높습니다.” Baltic Amadeus의 정보 보안 아키텍트인 토마스 사무리스는 말합니다. 그는 개인 식별 정보가 없는 그러한 프로필은 가짜와 기타 논란의 여지가 있는 정보를 퍼뜨리기 위해 특별히 만들어졌다고 말합니다.”
딥페이크 당했을 때 어떻게 해야 하나요?
하지만 일반적인 스마트폰 사용자가 취할 수 있는 예방 조치에는 한계가 있습니다. 디지털에 가장 정통한 사용자조차도 2단계 인증, 개인 프로필, 생체 방화벽과 같은 모든 표준 도구를 사용한 후에도 사이버 범죄의 수혜자가 됩니다.
모든 예방 조치를 취했는데도 여전히 딥페이크 범죄의 중심에 서게 된다면, 스스로 문제를 해결하기보다는 전문가의 조언과 당국의 도움을 구하세요. 전문가들은 이런 괴롭힘을 묵인하거나 스스로 은밀하게 처리하려고 하면 피해자의 상황이 더 악화되는 경우가 많다고 지적합니다.
“누군가가 귀하의 콘텐츠를 오용하고 있다는 것을 발견하면 저작권법에 정통한 변호사의 도움을 받아 가능한 한 빨리 콘텐츠를 제거하세요.” 사이버 보안 위험 및 데이터 프라이버시와 같은 분야의 공인 법률 전문가이자 Dallas Bar Association 회원인 Rob Scott의 말입니다.
법률 전문가와 상담하는 것이 중요한 이유는 디지털 권리에 관해 안내를 받을 수 있기 때문입니다. Canopy의 Litwin은 또한 모든 증거를 보존할 것을 제안하며 피해자에게 “강탈 시도에 대한 증거, 예를 들어 강탈과 관련된 메시지, 이메일 또는 모든 형태의 커뮤니케이션을 문서화”하라고 조언합니다.
또 다른 중요한 조언은 피해자가 범죄자와의 모든 접촉을 즉시 중단해야 한다는 것입니다. 범죄자는 더 심각한 강탈 요구로 피해자를 조종하거나 괴롭힐 수 있기 때문입니다. 동시에 사용자는 사이버 보안 전문가에게 연락하거나 정부 사이버 범죄 헬프라인 중 하나에 전화하여 적절한 조치를 제때 취해야 합니다.
딥페이크를 발견하는 방법
AI 엔진이 점점 더 정교해지면서, 그들이 만들어내는 딥페이크의 종류는 섬뜩할 정도로 현실적이고 알아채기 어려워지고 있습니다. 그러나 사용자가 합성적으로 변경되거나 AI가 생성한 타협적인 자료를 알아채기 위해 주의를 기울일 수 있는 몇 가지 마커가 여전히 있습니다.
다음은 전문가들이 제시하는 딥페이크 식별자의 모음입니다.
- 부자연스러운 눈의 움직임을 주의하세요. 사람의 눈이 깜빡이지 않는 것처럼 보이거나, 눈의 움직임이 이상하거나, 얼굴 표정이 말하는 단어와 동기화되지 않는 것처럼 보인다면, 그것은 대부분 딥페이크 클립일 가능성이 큽니다. 감정이 없거나 일관성 없는 감정은 미디어가 디지털로 변형되었다는 징후입니다.
- 가드너는 “딥페이크 기술은 일반적으로 얼굴 특징에 초점을 맞춥니다.”라고 말합니다. “사람의 체형이 자연스럽지 않거나 움직임이 갑작스럽고 단절되어 있다면 그 영상은 딥페이크일 가능성이 큽니다.”
- 또 다른 신뢰할 수 있는 마커는 배경으로, 부자연스럽게 흐릿하게 보이거나 이상한 시각적 아티팩트가 보일 수 있습니다. 딥페이크를 발견하는 또 다른 쉬운 방법은 비정상적인 변색이나 심각한 색상 불일치를 찾는 것입니다. 특히 주변 항목의 얼굴과 그림자와 관련하여 말입니다.
- 사람이 “완벽한 머리”를 하고 있는 사진을 보았는데, 몇 가닥의 흩날리는 머리카락이나 곱슬거림과 같은 개별적인 요소를 발견할 수 없다면 조심하세요. AI 모델은 또한 치아에 어려움을 겪는 것으로 알려져 있습니다. 부자연스럽게 완벽한 치아나 개별 치아의 윤곽이 없는 치아, 또는 일반적인 인간 의치보다 더 많은 치아를 찾아보세요.
- 신체 부위의 정렬 불량, 흐릿한 모서리, 몇 개의 손가락이 더 많거나 적음, 이상하게 뒤틀린 사지, 신체 부위의 동기화되지 않은 움직임, 멈춤과 감정적 휴식이 없는 음성은 주의 깊게 살펴봐야 할 다른 신호입니다. Samulis는 “가짜 음성이나 오디오 녹음에는 종종 배경 소음, 로봇 같은 음성, 이상한 발음이 있습니다.”라고 설명합니다.
반쯤 효과적인 솔루션으로 인한 심각한 문제
위에서 설명했듯이, 딥페이크에 대한 완벽한 안전망은 없습니다. 하지만 사진을 공유하는 곳, 누가 볼 수 있는지, 소셜 미디어 접근 범위에 대해 조심한다면 비교적 안전한 구역에 머물 수 있습니다.
또한 온라인 친구가 누구인지도 주의 깊게 살펴야 하며, 소셜 미디어에서 친구 서클에 추가하기 전에 새로운 초대자의 활동을 조사해야 합니다. 딥페이크에 관한 한, 그것은 약간 까다롭습니다. 하지만 주의를 기울이고 의심스러운 사진이나 비디오의 불일치를 평가할 시간을 낸다면, 딥페이크를 상당히 높은 정확도로 발견할 수 있습니다.
결국 중요한 것은 위생적인 온라인 습관을 기르고 위조가 빈번하게 일어나는 온라인 공간에서 주의를 기울이는 것입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
