회의실 밖 텅 빈 복도에 앉아 있는데, 비서가 이를 악물고 방에서 나왔습니다. 전화기는 여전히 통화로 따뜻했습니다. 방 안의 온도가 뚝 떨어지는 것이 느껴졌습니다. 협상이 아니라 오디션 같았습니다. 누군가가 바에 불가능한 무게를 올려놓고 상대방에게 떨어뜨리라고 감히 말하는 것 같다는 생각이 들었습니다.
군사적 싸움과 실리콘 밸리의 대립을 모두 취재해 봤는데, 이번 건은 둘 다 섞인 것 같습니다. 등장인물은 뻔합니다. 국방장관이자 선거 유세 단계의 싸움꾼인 피트 헤그세스, 안전을 최우선으로 하는 앤트로픽의 명성을 쌓은 CEO 다리오 아모데이, 그리고 현재 공개 테스트의 중심에 있는 AI 모델 클로드입니다. 국방부의 요구는 노골적입니다. 클로드 사용 방식에 대한 제한을 풀거나 국가 안보 위협으로 낙인찍히는 것을 감수하라는 것입니다.
피트 헤그세스는 화요일 아침 국방부에서 다리오 아모데이를 만났습니다.
해당 장면은 기자들에게 짧고 직접적인 만남으로 묘사되었습니다. 분위기를 말씀드리자면, 정책 대화라기보다는 명령 브리핑의 노골적인 느낌이었습니다. Axios와 나중에 Gizmodo에 해당 만남을 확인해 준 대변인에 따르면, 헤그세스는 최후통첩을 제시했습니다. 클로드에 대한 안전 장치를 제거하거나 계약 취소, “공급망 위험” 지정 또는 심지어 국방물자생산법에 따른 강제 생산과 같은 결과에 직면하라는 것입니다.
국방부가 앤트로픽에 AI 안전 장치를 변경하도록 강요할 수 있을까요?
간단히 말해서, 도구는 존재하지만 사용하면 폭발적일 것입니다. 국방물자생산법은 국가 방위 필요에 따라 생산을 강제할 수 있으며, 기관은 계약을 취소하거나 기업을 제한 목록에 올릴 수 있습니다. 그러나 특정 사용 사례(특히 감시 및 자율 무기 관련)에 대해 공개적으로 저항해 온 회사에 대해 이러한 권한을 사용하는 것은 단순한 법적 책략 이상일 것입니다. 의회, 법원 및 언론을 끌어들이는 평판 싸움이 될 것입니다. 국방부가 앤트로픽에게 매우 어려운 상황을 만들 수 있다고 가정해야 하지만, 정치적 비용은 사라지지 않을 것입니다.
국방부는 “무제한 액세스”를 원한다고 명시적으로 밝혔습니다.
Axios는 해당 문구를 보도했으며, 이는 갈등의 핵심을 찌릅니다. 앤트로픽은 경계를 요구해 왔습니다. 대규모 국내 감시, 의미 있는 인간 통제를 제거하는 완전 자율 살상 시스템은 안 된다는 것입니다. 소식통이 전한 헤그세스의 입장은 이러한 선이 작전 필요를 방해하며 개별 사용 사례를 나중에 소송하라는 것은 용납할 수 없다는 것입니다. 저에게는 정책이라기보다는 열쇠를 넘겨달라는 요구처럼 들립니다.
앤트로픽이 국가 안보 위협으로 낙인찍힐 수 있을까요?
해당 위협은 헛된 수사가 아닙니다. 기업을 국가 안보 위험으로 선언하는 것은 최근 일부 외국 기업에 대해 사용된 무딘 도구입니다. 미국 AI 스타트업에 적용하는 것은 최초의 확대 조치가 될 것입니다. 앤트로픽이 반발한 이유를 알 수 있습니다. 해당 지정은 투자를 위축시키고, Google이나 Microsoft와 같은 기업과의 파트너십을 복잡하게 만들고, 인재 풀에서 고용하기 더 어렵게 만들 것입니다. 또한 클로드를 안전 논쟁이 아닌 외교 정책 및 산업 정책 싸움의 중심으로 몰아넣을 것입니다.
앤트로픽은 클로드가 대규모 감시 또는 완전 자율 무기를 지원하는 것을 공개적으로 거부했습니다.
해당 입장은 연기적인 것이 아닙니다. 다리오 아모데이와 그의 팀은 클로드에 공개 사용 정책과 안전 계층을 구축했습니다. 회사가 신뢰성과 책임감을 유지한다고 말하는 명시적인 안전 장치입니다. 보도에 따르면 해당 제한 사항은 현장 작전을 막지 못했습니다. 소식통은 앤트로픽의 안전 장치로 인해 최전선 임무가 방해받은 적이 없으며, 국방부가 니콜라스 마두로와 관련된 작전에 클로드를 사용했을 때 회사는 이의를 제기하지 않았다고 말합니다.
군사 작전에 클로드를 사용하는 데 따른 위험은 무엇일까요?
세 가지 범주로 생각해야 합니다. 압박 하에서의 정확성, 새로운 환경에서의 예측 가능성, 도덕적-법적 노출입니다. AI 모델은 자신감 있는 것처럼 들리지만 잘못된 출력을 생성할 수 있습니다. 전장이나 감시 상황에서는 버그가 아니라 잠재적인 재앙입니다. 도구가 국내 추적에 전용되는 경우 시민의 자유를 침해할 위험도 있으며, 해당 역할에 대해 훈련되지 않은 모델에 살상 결정을 위임하는 법적 문제도 있습니다. 앤트로픽의 안전 장치는 이러한 특정 위험을 완화하려는 직접적인 시도입니다.
국방부의 압력은 힘을 과시하는 것처럼 보이며 평판 테스트를 만듭니다.
정부 관리가 계약을 취소하거나 비상 권한을 발동하겠다고 위협할 때 계산은 기술적인 것만이 아닙니다. 평판 연극입니다. 돈이 계속 흐르도록 자신의 공개 약속을 굽히고 깨는 CEO를 보았습니다. 또한 반대 방향으로 나아가 확고한 입장을 취하여 새로운 종류의 정당성을 얻는 기업도 보았습니다. 앤트로픽의 대변인은 해당 만남을 선의의 대화로 규정하고 회사의 신뢰성 범위 내에서 국가 안보를 지원하려는 의지를 강조했습니다. 해당 태도는 회사가 타격을 감수할 의향이 있다면 평판 면에서 승리할 수 있는 위치를 점합니다.
주목해야 할 사항은 소식통이 기자들에게 전달한 금요일 마감일을 부서가 준수하는지 여부, 백악관 또는 의회가 개입하는지 여부, 다른 기술 회사(OpenAI, Google의 XAI 팀, 클라우드 공급업체)가 동일한 줄다리기에 끌려가지 않도록 자체 정책을 재조정하기 시작하는지 여부입니다. 행정부의 AI 차르인 데이비드 삭스는 이미 앤트로픽의 규제 입장에 대해 공개적으로 논쟁을 벌이고 있으며, 이는 이번 분쟁이 국방부뿐만 아니라 여러 전선에서 진행되고 있음을 보여줍니다.
저는 권력이 플랫폼을 만나는 유사한 대치 상황을 추적해 왔습니다. 때로는 정부가 눈을 깜빡이고, 때로는 회사가 무너지고, 때로는 싸움이 새로운 규칙을 만듭니다. 은유는 분명합니다. 역도 선수가 단일 바 아래에 너무 많은 원판을 쌓는 것입니다. 압력은 휘파람을 불 준비가 된 압력 밥솥처럼 느껴집니다. 정책, 국가 안보 및 기업 윤리가 충돌할 때 어느 쪽에 베팅하시겠습니까?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
