마이크로소프트, 유명인 딥페이크 개발자에 대한 조치 단행
AI 안전에 대한 의지를 보여주기 위해, 마이크로소프트는 지난해 제기한 소송을 수정하여, 자신의 AI 도구에서 가이드라인을 우회하여 유명인 딥페이크를 제작한 혐의로 네 명의 개발자 신원을 공표하려 하고 있습니다. 이 기술 대기업은 12월에 이러한 법적 조치를 시작했으며, 이와 관련된 웹사이트의 법원 명령 압수로 인해 이들의 신원을 확인할 수 있었습니다.
사이버 범죄에 연루된 개발자의 신원
이 글로벌 사이버 범죄 네트워크 ‘Storm-2139’에 연루된 개발자들은 다음과 같습니다:
- 이란 출신의 아리안 야데가르니아(“Fiz”)
- 영국 출신의 앨런 크리시아크(“Drago”)
- 홍콩 출신의 리키 유엔(“cg-dot”)
- 베트남 출신의 팟 푸옌 탄(“Asakuri”)
마이크로소프트는 이 작업과 관련된 추가 인물들을 확인했지만, 진행 중인 수사를 위험에 빠뜨리지 않기 위해 그들의 신원을 공개하지 않기로 했습니다. 마이크로소프트에 따르면, 이 개발자들은 자신의 생성 AI 도구에 무단으로 접근하여 시스템을 ‘재소프트웨어화’하여 다양한 종류의 이미지를 제작했습니다. 이후 이들은 이 접근 권한을 다른 사람들에게 판매했으며, 이에 따라 유명인을 포함한 딥페이크 성인물 생성에 악용되었습니다.
소송 및 웹사이트 압수의 결과
소송 제출과 그룹 웹사이트 압수 이후, 마이크로소프트는 피고들이 신속하고 방어적으로 반응했다고 보고했습니다. 블로그 게시물에서 자세히 설명하듯이, “이 웹사이트의 압수와 후속으로 1월에 법적 서류가 공개되면서, 이로 인해 일부 경우에는 그룹 회원들이 서로를 지적하는 등의 즉각적인 반응이 있었습니다.”
딥페이크 성인물: 증가하는 우려
테일러 스위프트와 같은 저명한 인물들을 포함하여 유명인들은 점점 더 많은 딥페이크 성인물의 피해자가 되고 있습니다. 이는 사람의 얼굴을 나체 신체에 현실감 있게 합성하는 것을 포함합니다. 2024년 1월, 마이크로소프트는 스위프트의 무단 이미지가 온라인에 유포되는 사건이 발생하면서 텍스트-이미지 모델을 업데이트해야 했으며, 이는 안전 장치를 얼마나 쉽게 우회할 수 있는지를 보여줍니다.
사회에 대한 생성 AI의 영향 및 최근 스캔들
생성 AI는 이러한 이미지를 만드는 과정을 간소화하여 최소한의 기술적 능력으로도 가능하게 하여 미국 고등학교 전역에서 딥페이크 사건이 증가하고 있습니다. 딥페이크 피해자의 경험을 반영한 수많은 보고서는 이러한 디지털 학대가 단순한 이론이 아니며, 실제로 진정한 감정적 고통을 일으킨다는 것을 강조합니다. 피해자들은 종종 불안, 두려움 및 침해감을 느끼며, 누군가 기술을 이용해 자신의 이미지를 착취하고 있다는 사실을 알고 있습니다.
AI 안전을 둘러싼 논쟁: 오픈 소스 대 클로즈드 소스 모델
AI 안전에 대한 논의는 AI 커뮤니티 내에서 상당한 논쟁을 불러일으키며, 주요 기업인 오픈AI와 같은 대기업의 우려의 진정성과 잠재적 이익 동기에 대한 의문을 제기합니다. 한 관점은 안전 메커니즘을 비활성화하는 것을 방지하여 악용 위험을 줄이기 위해 AI 모델을 클로즈드 소스로 유지해야 한다고 주장합니다. 반면, 오픈 소스 모델의 지지자들은 이러한 도구를 공공 개선을 위한 자유롭게 제공하는 것이 혁신에 중요하며, 여전히 효과적으로 악용을 방지해야 한다고 주장합니다. 입장에 관계없이, 이러한 논의가 부정확한 정보와 저품질 콘텐츠의 확산과 같은 시급한 문제를 가릴 수 있습니다.
AI 악용을 다루기 위한 법적 프레임워크
모든 상용 및 오픈 소스 AI 모델은 일반적으로 특정 응용 프로그램을 제한하는 라이센스 계약을 포함하지만, 이러한 조건을 집행하는 것은 별도의 도전 과제가 됩니다. AI에 대한 우려가 때때로 과장되었을 수 있지만, 실제로 위험은 딥페이크 생성을 위한 악용에서 발생합니다. 법적 조치는 이러한 악용을 방지하기 위해 사용할 수 있는 전략 중 하나로, 모델의 오픈 또는 클로즈드 여부와 관계없이 적용됩니다.
미국에서는 이미 미성년자의 딥페이크를 생성한 개인들에 대한 여러 차례의 체포가 있었습니다. 더 나아가, 지난해 의회에서 제안된 NO FAKES Act는 동의 없이 개인의 이미지에 기반한 이미지 생성 행위를 범죄화하는 것을 목표로 하고 있습니다. 영국은 딥페이크 성인물을 배포하는 것에 대해 처벌을 부과하기 시작했으며, 곧 생성에 대한 법률도 포함될 예정입니다. 한편, 호주는 최근 비동의 딥페이크의 생성 및 유포를 범죄화하는 법률을 제정했습니다.
딥페이크 및 AI 안전에 대한 자주 묻는 질문
딥페이크란 무엇이며 어떻게 생성되나요?
딥페이크는 개인의 외모가 그들이 실제로 겪지 않은 상황을 묘사하는 데 설득력 있게 변경된 합성 미디어입니다. 일반적으로 심층 학습 및 신경망과 같은 인공지능 기술을 사용하여 생성됩니다.
딥페이크 제작자에 대한 법적 조치는 무엇이 있나요?
전세계적으로 다양한 법적 조치가 등장하고 있습니다. 미국에서는 NO FAKES Act와 같은 법안이 개인의 동의 없이 그를 묘사하는 이미지를 무단 생성하는 것을 금지하는 것을 목표로 하고 있습니다. 다른 나라들도 딥페이크의 생산 및 배포에 대한 법률을 제정하고 있습니다.
딥페이크 착취로부터 자신을 어떻게 보호할 수 있나요?
개인은 소셜 미디어에서 엄격한 개인정보 보호 설정을 설정하고, 온라인에서 공유하는 개인 정보에 주의를 기울이며, 미디어 내에서 자신의 초상권 남용에 대한 법적 보호에 대해 인지함으로써 자신을 보호할 수 있습니다.
마이크로소프트는 딥페이크 기술 해결에 어떤 역할을 하고 있나요?
마이크로소프트는 자사의 AI 도구를 악의적인 딥페이크 생성에 악용한 사람들에 대한 법적 조치를 적극적으로 추구하고 있으며, 이러한 악용을 방지하기 위해 기술의 안전성 강화에 전념하고 있습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
