당신의 받은 편지함을 열면 제목 줄이 감히 도전하는 것처럼 보입니다. 저는 샘 알트만의 메모를 읽고 원칙으로 포장된 홍보 의례를 느꼈습니다. 시내 건너편에서는 Anthropic이 실제로 전쟁에서 AI의 역할을 바꿀 수 있는 국방부의 요구를 거부하고 있었습니다.
목요일 밤, OpenAI는 보도 자료이자 신조처럼 느껴지는 메모를 보냈습니다.
저는 당신이 제가 그랬던 것처럼 그 메모를 읽어보길 바랍니다: 개인적인 반향이 있는 공개적인 퍼포먼스로서요. 샘 알트만은 거의 즉시 기자들에게 전달된 메모를 통해 직원들에게 OpenAI가 대량 감시와 자율 살상 무기에 반대하며, 인간이 중대한 결정에 계속 관여해야 한다고 말했습니다. 그것은 포스터에는 좋아 보입니다. 또한 Anthropic의 Dario Amodei가 국방부와의 회의에서 옹호해 온 레드 라인과 일치합니다.
OpenAI는 국방부의 요구를 거부할까요?
그 질문은 모든 헤드라인을 끄는 자석입니다. 알트만의 메시지는 약속처럼 읽히지만 맥락이 중요합니다. 그의 회사는 Anthropic과는 다른 계약, 파트너 및 의존성을 가지고 있습니다. 무언가를 하겠다고 말하는 것은 연방 기관이 당신을 공급망 위험으로 선언하거나 국방물자생산법을 발동하겠다고 위협하는 방에 놓이는 것과 같지 않습니다.
별도의 전선에서 Anthropic은 실제로 명시적인 국방부의 압력을 직시해야 했습니다.
당신은 그 대화를 상상할 수 있습니다: 국방부 변호사들이 가상적인 상황을 시험하고, 회사 엔지니어들이 조심스럽게 답변하고, 변호사들이 선택지를 세는 것입니다. 뉴욕 타임즈와 워싱턴 포스트의 보도에 따르면 국방부는 Anthropic의 Claude가 방어 미사일 요격에서부터 다른 전장 역할에 이르기까지 다양한 작업에 사용될 수 있는지 물었습니다. 한 보도에 따르면 Amodei의 답변은 그들에게 전화하라는 것이었고, 이는 정중한 거절이자 방화벽처럼 읽혔습니다.
Anthropic은 “방어 무기”에 대한 예외를 허용하면서 하나의 레드 라인을 완화하기까지 했지만, 기관은 더욱 압박했습니다. 계약 취소, 회사를 공급망 위험으로 낙인찍기, 국방물자생산법을 통해 강제로 준수하도록 하겠다는 위협이 뒤따랐습니다. Bloomberg는 나중에 회담이 완전히 결렬되지 않았다고 시사했습니다. Palantir가 스택의 일부에 Anthropic의 모델에 의존하는 것이 회사가 조용히 쥐고 있는 지렛대 중 하나입니다.
Anthropic은 왜 국방부에 거절했을까요?
이것은 가치가 영향력과 만나는 지점입니다. Anthropic의 공식 입장은 좁고 도덕적입니다: 대량 감시, 자율 살상 무기 없음, 그리고 삶과 죽음에 관련된 선택에 있어서 인간이 관여해야 합니다. 이러한 선은 넘어서면 회사가 무엇인지, Claude가 무엇이 되는지를 바꿀 것입니다. 국방부는 “모든 합법적인 목적”을 위해 AI를 원한다고 주장했지만, War on the Rocks에 따르면 자율 무기에 관해서는 법과 관행이 동일하지 않습니다.
국방부에서 관리들은 협상에서 공개적인 비난으로 확대했습니다.
X에서 차관 Emil Michael은 직원 브리핑에서 Amodei를 “거짓말쟁이”이자 “신 콤플렉스”를 가진 사람이라고 부르고 Anthropic이 헌법을 회사 규칙서로 대체하려 한다고 비난하며 모욕으로 넘어갔습니다. Daily Beast는 이 폭발을 보도했고, 그 공개적인 모습은 싸움을 미디어 극장으로 옮겼습니다.
그것은 국방 기관에게는 이상한 자세입니다: 합법적이고 방어적인 용도로 AI를 원한다고 주장한 다음 민간 회사가 거부하자 개인적인 공격을 가하는 것입니다. 그러한 전술은 휘파람을 불기 직전의 압력솥처럼 보이며 기술 회사들이 원칙적인 형제자매 역할을 하는 동안 국방부를 나쁜 경찰의 캐리커처로 만들 위험이 있습니다.
더 넓은 무대에서 직원들과 경쟁자들은 이야기를 바깥으로 밀어냈습니다.
Google과 DeepMind에서 100명 이상의 직원들이 회사에 국방부 작업을 계속한다면 Anthropic 스타일의 레드 라인을 채택할 것을 촉구하는 편지에 서명했습니다. 저는 그 내부 압력이 공개적인 압력이 되고, 이는 결국 알트만이 같은 땅에 깃발을 꽂도록 몰아가는 것을 지켜봤습니다. 외형이 중요합니다: Google의 엔지니어, 뉴욕 타임즈의 기자, Bloomberg의 분석가 모두가 토론의 틀을 짤 때 여론 법정은 판결 초안을 작성하기 시작합니다.
Palantir, LLM 전쟁 게임에 대한 Tom’s Hardware 보도, 그리고 챗봇이 시뮬레이션된 시나리오에서 핵 옵션을 선택하는 것을 보여주는 연구는 두려움을 더했습니다. 이러한 연구는 반칙을 거부하는 심판과 같습니다. 갑작스럽고 결정적이며 전체 게임의 경로를 변경할 수 있습니다.
영향력, 법, 그리고 다음 움직임에 대한 질문에서
다양한 영향력이 작용하고 있습니다: 법적 권한, 조달 의존성, 그리고 회사가 정부 내부에 고객을 가지고 있다는 단순한 사실입니다. 국방부는 국방물자생산법을 위협할 수 있고, 회사를 공급망 위험으로 지정할 수 있으며, 계약을 취소할 수 있습니다. 그러나 Anthropic은 파트너십, 기술적 틈새 시장, 그리고 이제는 수행적인 것이 아니라 테스트된 것처럼 보이는 공개 약속과 같은 상쇄 수단을 가지고 있습니다.
이것이 국방 분야의 AI에 대한 정책을 어떻게 형성하는지 지켜봐야 합니다. 회사가 공개적으로 레드 라인을 계속 긋는다면 의회와 규제 기관은 규칙을 공식화해야 한다는 압력을 느낄 것입니다. 국방부가 법을 바꾸지 않고 승리한다면 민간 부문은 저항이 비용이 많이 든다는 것을 배울 수 있습니다. 어느 결과든 엔지니어, CEO, 투자자에게 인센티브를 재구성합니다.
국방물자생산법은 AI 회사가 군사 특정 모델을 구축하도록 강제할 수 있을까요?
간단한 답변: 사용될 수 있지만 정치적으로나 법적으로 복잡합니다. DPA는 정부에 조달 권한을 부여하지만 고위급 AI 회사에 대해 이를 발동하는 것은 직원, 기업 이사회 및 언론의 반발 위험이 있습니다. Bloomberg는 진행 중인 회담을 보도했는데, 이는 양측 모두 여전히 사용할 카드가 있고 확산 비용을 경계하고 있음을 시사합니다.
저는 수년 동안 이와 같은 협상을 다뤄왔습니다: 공개적인 자세, 개인적인 영향력, 그리고 많은 연극. 알트만의 메모를 증거가 아닌 표지판으로 취급해야 합니다. Anthropic의 거절은 이미 테스트되었으며, 이는 메모가 거의 따라올 수 없는 방식으로 중대한 영향을 미칩니다. 어느 압력이 승리할까요? 국방부의 법적 도구일까요, 아니면 회사의 결의일까요? 그리고 누가 다음 전쟁의 규칙을 결정할까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
