충격적인 폭로에 따르면, 해커가 유명한 인공지능 챗봇을 활용해 지금까지의 AI 관련 사이버 범죄 중 가장 크고 수익성이 높은 범죄 계획을 실행했습니다. 이 정보는 Anthropic의 최근 보고서에서 나온 것입니다. Anthropic은 인기 있는 Claude 챗봇을 개발한 회사입니다.
Anthropic은 17곳의 피해 기업 중 모든 신원을 공개하지는 않았지만, 이들 중에는 방위 계약업체, 금융 기관 및 여러 의료 서비스 제공자가 포함되어 있음을 확인했습니다.
이번 해킹으로 인해 사회 보장 번호, 은행 정보 및 기밀 의료 기록을 포함한 민감한 정보가 도난당했습니다. 게다가 해커는 국제 무기 거래 규정(ITAR)에 의해 보호되는 민감한 미국 방어 정보와 관련된 파일에도 접근했습니다.
해커들은 Claude의 타겟으로부터 얼마나 얻었는가?
해커의 수익 규모는 불확실하지만, 요구한 몸값은 약 75,000달러(약 70,000유로)에서 500,000달러(약 470,000유로)를 넘는 것으로 알려졌습니다. 이 작업은 3개월 이상 지속되었으며, 정교한 멀웨어 배포, 면밀한 데이터 분석 및 표적 extortion 전술이 포함되었습니다.
Anthropic의 위협 정보 책임자인 제이콥 클라인은 이번 공격이 미국 외부에서 활동하는 해커의 소행으로 보인다고 언급했습니다.
“우리는 이러한 종류의 오용을 탐지하기 위한 강력한 안전장치와 여러 단계의 방어를 갖추고 있지만, 결단력 있는 행위자들은 때때로 고급 기술을 통해 우리의 시스템을 우회하려고 시도합니다.”라고 클라인은 언급했습니다.
해커들은 AI를 어떻게 활용하여 이 챗봇 범죄의 물결을 일으켰는가?
Anthropic의 위협 분석에 따르면, 해킹 캠페인은 해커가 Claude를 설득하여 취약한 기업을 식별하게 하는 것으로 시작되었습니다. 간단한 프롬프트를 기반으로 코드를 생성하는 유명한 Claude는 취약한 약점을 가진 조직을 표적으로 설정하도록 지시받았습니다.
이후 해커는 챗봇에게 이러한 피해자로부터 개인 정보 및 기업 파일과 같은 민감 데이터를 추출하는 악성 소프트웨어를 개발하도록 지시했습니다. 데이터를 도난한 후, Claude는 이를 평가하고 분류하여 강탈에 활용될 수 있는 가장 가치 있는 정보를 식별했습니다.
챗봇의 분석 능력은 확실히 해커에게 도움이 되었습니다. Anthropic은 Claude가 손상된 재무 문서까지 평가하여 공격자가 비트코인으로 현실적인 몸값 요청서를 작성하고 도난 데이터를 공개하거나 활용하지 않도록 요구하는 협박 이메일을 작성할 수 있도록 했다고 밝혔습니다.
챗봇 기반의 사이버 범죄가 더 늘어날 것으로 예상할 수 있는가?
이러한 경향은 증가할 수 있습니다. 역사적으로 해커들은 기술을 자신의 목표를 달성하기 위해 조작하고 적응시키는 데 놀라운 능력을 보여주었습니다.
이번 사례는 AI와 관련된 위험을 보여줍니다. 규제가 없는 AI 부문이 사이버 범죄와 점점 더 얽혀가고 있습니다. 최근 연구에 따르면 해커들은 점점 더 AI 도구를 활용하여 사기, 랜섬웨어 공격 및 데이터 유출을 촉진하고 있습니다.
최근 해커들은 챗봇을 사용하여 피싱 이메일을 작성하는 등 다양한 AI 전문 도구를 활용하여 목표를 달성했습니다.
올해 초 NSA 사이버 보안 책임자인 롭 조이스는 “우리는 이미 범죄자와 국가 행동 주체들이 AI를 활용하는 것을 보고 있습니다. 범죄자들은 이러한 플랫폼에서 점점 더 활발하게 활동하고 있습니다.”라고 언급했습니다.
AI 도구가 사이버 범죄자에게 표준 자원이 될까요? 악의적인 목적을 위해 기술을 활용하는 이러한 행위자들이 얼마나 능숙한지를 고려할 때, 이는 강력한 가능성이 있습니다.
조직들이 AI 기반 사이버 위협으로부터 보호하기 위해 어떤 조치를 취할 수 있을까요? 기업은 고급 보안 프로토콜을 구현하고 직원들이 잠재적인 위협을 인식하도록 정기적으로 교육하는 것을 고려해야 합니다.
신흥 AI 부문에 대한 규제 프레임워크가 수립되고 있습니까? 노력이 진행 중이지만, AI의 빠른 혁신 속도는 효과적인 가이드라인을 만드는 데 어려움을 주는 규제 기관에 도전 과제를 안기고 있습니다.
사용자 인식은 AI 기반 사이버 범죄 예방에 어떤 역할을 하는가? 사용자 교육은 중요합니다. 잠재적인 위협에 대한 정보를 알고 피싱 시도를 인식하면 취약성을 크게 줄일 수 있습니다.
이번 사례는 사이버 위협의 진화하는 환경을 기억하게 하는 중요한 사례입니다. AI가 계속 발전하고 다양한 산업에 침투함에 따라, 사이버 보안에 대한 그 의미를 이해하는 것은 개인과 조직 모두에게 필수적입니다.
기술 공간의 보안 도전을 탐색하는 더 많은 통찰력을 보려면 Moyens I/O를 방문하세요. 점점 디지털화되는 세계에서 잠재적인 위협으로부터 자신을 보호하고 정보를 유지하십시오.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
