나는 몇 시간 만에 거부에서 승인으로 피드가 바뀌는 것을 지켜봤다. 국방부는 조용히 Anthropic과의 계약을 취소한 후 OpenAI와 계약을 체결했고, 그날 밤 늦게 테헤란에 대한 공격이 시작되었다. 직원들이 기다리고, 임원들이 연설하고, 국가가 선택하는 것을 느낄 수 있었다.
무슨 일이 일어났는지, 무슨 말이 오갔는지, 아직 아무도 보여주지 않은 것을 알려드리겠다. 내 임무는 당신을 안심시키는 것이 아니다. 답을 요구하는 순간들을 지적하는 것이다.
나는 국방부가 하루도 채 안 되는 시간에 파트너를 바꾸는 동안 임원들이 X에서 성명을 주고받는 것을 지켜봤다.
몇 시간 만에 국방부는 Anthropic이 특정 군사적 용도를 제한하는 안전 장치에 대한 계약 문구를 거부한 후 Anthropic을 공급망 위험으로 규정했다. OpenAI는 공개적으로 회사 지도자들이 옹호하는 계약에 동의했고, 사용자들이 OpenAI 불매 운동을 계획하면서 Claude는 앱 스토어 차트를 올랐다.
이 발표는 공론에 불꽃을 던지는 도화선이었다. 어떤 사람들은 안전 우선 저항에 대한 보상으로 보았고, 어떤 사람들은 정치적 압력에 굴복한 성급한 양보로 느꼈다. Sam Altman은 이 거래가 “서둘러” 이루어진 것 같고, “보기 좋지 않다”고 인정했다. OpenAI의 국가 안보 파트너십 책임자인 Katrina Mulligan은 이 계약이 국방에 국한되며 “해당 법률”에 구속된다고 설명했다.
X를 스크롤하면 보류 상태에 있는 회사처럼 보이는 수십 개의 OpenAI 직원 스레드를 찾을 수 있다.
국방부 발표 전에 거의 100명의 직원이 국내 대량 감시 또는 완전 자율 치명적 시스템에 대한 허가를 거부하도록 지도부에 촉구하는 공개 서한에 서명했다. 그 후, 많은 고위 직원이 Anthropic의 공급망 위험 지정 철회를 국방부에 공개적으로 요청했다.
회사 내부의 목소리는 엇갈린다. 일부 임원은 기술 통제 및 현장 엔지니어가 계약 문구보다 더 강력한 안전 장치를 제공한다고 주장한다. 명명된 연구 직원을 포함한 다른 사람들은 그 절충이 가치가 없다고 말한다. OpenAI에서 일하거나 일했던 경우, 기자들이 소스에 대해 질문하고 있으며, 직원들은 공개적인 보증이 충분한지 논쟁하고 있다.
공개된 게시물은 실시간 Q&A였다. 계약 자체는 비공개로 유지되었다.
OpenAI는 X의 공개 포럼과 지도부의 몇몇 게시물에서 세부 정보를 공유했지만, 실제 계약 내용은 여전히 비공개 상태이다. 그 격차가 가장 분명한 불안의 원천이다. 소셜 피드의 단어 대 구속력 있는 계약의 조항이다.
OpenAI의 기술이 국내 감시에 사용될 것인가?
OpenAI는 아니라고 말한다. Mulligan은 계약이 국방에 적용되며 국내 법 집행에는 적용되지 않으며 미국 법률은 국방부의 국내 감시 능력을 제한한다고 썼다. Sam Altman은 민주주의 기관에 대한 믿음을 되풀이했다. 그러나 역사적 선례(대량 감시 스캔들 및 법적 빠져나갈 구멍)는 회의론의 여지를 남긴다. 게시물에서 약속된 것뿐만 아니라 조항이 보이고 시행 가능하기를 원해야 한다.
OpenAI 시스템이 자율 무기를 구동할 수 있는가?
OpenAI는 자사의 모델이 완전 자율 무기 시스템을 구동하는 데 사용되지 않을 것이라고 밝혔다. Anthropic은 확고한 계약적 금지를 추진했다. OpenAI는 기술 통제 및 국방부에 엔지니어를 배치하는 것을 선호했다. 이는 실질적인 질문을 남긴다. 전장에서 적절한 인간 감독은 어떻게 보이는가? Sarah Shoker와 국방 연구원은 업계에 그 정의에 대한 합의가 부족하다고 지적한다. 아마도 Anthropic이 그 조건을 거부한 이유일 것이다.
Sam Altman과 Katrina Mulligan은 공개 게시물에서 미국 법률과 내부 통제에 의존했다.
그들은 기존 법률과 회사에서 구축한 안전 장치가 최악의 결과를 막을 것이라고 주장했다. OpenAI는 엔지니어를 국방부에 배치하고 모델 동작에 대한 기술적 제한을 제공할 계획이다. 회사는 이러한 조치가 계약 조항보다 더 신뢰할 수 있다고 설명하고 Anthropic이 다른 운영 통제를 추구했다고 제안했다.
그러나 신뢰는 훼손되었다. 내부 반대, 공개 시위, 직원 이탈 위협은 회사 내부의 사회 계약이 닳아 버렸다는 신호이다. 내부 신뢰는 평판 및 도덕적 위험에 대한 낡은 방화벽으로 굳어졌다.
테이블에는 실제 선례와 해결되지 않은 질문이 있다.
국방부의 조치는 미국의 테헤란 공격 몇 시간 전에 이루어졌으며, 이는 여러 가지 방식으로 해석될 것이다. ACLU와 같은 시민 자유 단체는 이전에 일부 군사 행동을 불법에 가까운 것으로 표시했으며, 의회는 인공 지능을 구체적으로 다루는 법률을 제정하는 데 더디었다. 규제 기관, 직원 및 대중은 이제 두 가지 선택에 직면해 있다. 투명한 계약 조건과 시행 가능한 감독을 요구하거나 소셜 게시물과 개인 메모로 전달되는 보증을 수락하는 것이다.
이름이 중요하다. Anthropic과 Claude는 입장을 고수했다. OpenAI와 Sam Altman은 국방부의 조건을 수락하고 공개 포럼을 사용하여 결정을 설명했다. The Verge의 기자들과 다른 사람들은 이미 기술적 안전 장치의 효과가 불분명하다고 지적했다. 담론을 따르면 법적 주장, 기술적 자신감, 도덕적 걱정이 혼합된 것을 볼 수 있을 것이다.
무엇을 생각해야 할지 말하지 않겠다. 침묵이 요구하는 정확한 질문을 하기를 바란다. 누가 당신을 위해 계약을 읽을 것이며, 전쟁과 감시가 걸려 있을 때 누가 사기업에 책임을 물을 것인가?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
