슈퍼인텔리전스 전략: 에릭 슈미트와 알렉산더 왕이 AI의 새로운 군비 경쟁 경고
전 구글 CEO 에릭 슈미트와 스케일 AI 창립자 알렉산더 왕은 “슈퍼인텔리전스 전략”이라는 중요한 논문을 공동 저술하였으며, 미국 정부에 인공지능 일반 지능(AGI)을 위한 맨해튼 프로젝트를 시작하지 말 것을 경고하고 있습니다. 저자들은 이러한 이니셔티브가 전 세계적으로 통제할 수 없는 위험을 초래할 수 있다고 주장합니다. 강력한 AI 프로그램을 만드는 것이 다른 나라의 보복이나 파괴 행위를 유발할 수 있다는 것이 이 논문의 핵심 전제입니다. 각국이 군사 AI 역량에서 우위를 차지하려고 경쟁함에 따라 상황이 악화될 수 있습니다.
AI 개발 재고: 신중함에 대한 촉구
슈미트와 왕은 AI가 약물 개발과 직장 효율성 혁신을 통해 사회적 발전을 촉진할 큰 잠재력을 가지고 있다고 주장합니다. 하지만 그들은 정부가 AI를 새로운 국방의 최전선으로 간주하는 데 대해 심각한 우려를 표합니다. 이 듀오는 위험이 증가하는 AI 무기 개발 경쟁을 경계하며, 핵무기 개발을 제약하는 데 성공한 국제 협정과 비유합니다. 그들은 국가들이 AI를 보다 신중한 접근 방식으로 다루어야 하며, AI 기반 무기 시스템의 개발 유혹을 피해야 한다고 주장합니다.
방위 산업의 모순: 혁신 대 윤리
신중함을 주장하면서도, 슈미트와 왕은 방위 산업에 AI 기술을 배치하는 데에도 관여하고 있습니다. 슈미트의 회사 화이트 스토크는 자율 드론 기술에 중점을 두고 있으며, 왕의 스케일 AI도 최근 미국 국방부와 군사 계획 및 운영을 위한 AI 에이전트를 개발하는 계약을 체결했습니다. 실리콘 밸리가 수익성 높은 방위 계약으로 걸어가는 가운데, 이들 사업의 윤리적 함의가 비난받고 있습니다.
운동 전쟁의 위험: 방위 계약에 대한 관점
모든 군사 방위 계약자는 정당하지 않은 운동 전쟁을 촉진할 수 있는 내재적 이해 상충에 직면해 있습니다. 다른 국가가 군산 복합체 능력을 보유하고 있기 때문에 미국이 경쟁 우위를 유지해야 한다는 논리입니다. 그러나 이러한 군비 경쟁은 강력한 이들이 국제 체스 게임을 조작하면서 무고한 생명들에게 심각한 결과를 초래합니다.
AI 무기: 팔머 럭키의 윤리적 방어 주장
방위 기술 회사 앤두릴의 설립자인 팔머 럭키는 AI 기반 드론 공습이 대량 핵 공격이나 무차별 지뢰에 대한 보다 안전한 대안이 될 수 있다고 주장합니다. 다른 국가들이 AI 무기를 개발함에 따라, 럭키는 미국이 억제를 위한 충분한 능력을 유지해야 한다고 말합니다. 그의 회사는 우크라이나에 드론을 공급하여 러시아 병기 목표를 겨냥하고 있으며, 이는 전쟁에서 AI의 현실적 함의를 보여줍니다.
반문화적 호소: 앤두릴의 독특한 광고 접근법
앤두릴의 최근 광고 캠페인은 “앤두릴에서 일하다.com”이라는 문구가 밝은 그래피티 스타일의 글씨로 “하지 마”라는 단어로 가로막힌 형식으로, 오늘날 사회에서 군산 복합체에서 일하는 것이 반문화로 받아들여지는 개념을 받아들이고 있습니다.
AI 의사 결정에서 인간 요소: 우려의 원인
슈미트와 왕은 AI 보조 의사 결정에 대한 인간 감독의 중요성을 강조합니다. 그러나 최근 보고서에 따르면 이스라엘 군이 치명적인 의사 결정에 결함 있는 AI 시스템을 이용하고 있다고 합니다. 비평가들은 드론이 군인들이 전투의 현실에 둔감해지게 만들 수 있다고 주장합니다. 이미지 인식 AI의 정확성은 여전히 의문이 남아 있어, 목표를 불확실하게 공격하는 킬러 드론에 대한 두려움이 존재합니다.
AI의 능력을 과대평가하고 있는가? 슈미트와 왕의 가정
슈미트와 왕의 논문은 AI가 곧 슈퍼인텔리전스에 도달하여 거의 모든 작업에서 인간을 초월할 것이라는 가정에 기반하고 있습니다. 그러나 이 주장은 현대 AI의 상당한 단점을 간과하고 있으며, 현재 AI는 여전히 빈번히 오류를 발생시킵니다. 많은 AI 기능은 조잡한 인간 모방과 유사하며, 예측할 수 없고 종종 기괴한 행동을 보입니다.
AI 솔루션을 위한 추진: 슈미트와 왕은 책임 있는 혁신자인가?
슈미트와 왕은 정부가 잠재적 위협을 완화하기 위해 그들의 AI 솔루션을 조달해야 한다는 그들의 비전을 지지합니다. 이러한 접근 방식은 AI의 위험을 이용하여 워싱턴 정책에 영향력을 행사하는 동시에 정부가 승인한 “안전한” AI 버전을 제공하고 있다는 비판을 받은 OpenAI의 샘 올트먼에 대한 비판을 연상시킵니다.
AI 규제의 미래: 슈미트의 경고가 무시될 것인가?
슈미트의 경고에도 불구하고 현재의 미국 행정부는 반대 방향으로 나아가고 있는 것 같습니다. 트럼프 대통령은 바이든 정부 시대의 AI 안전 지침을 되돌리며, AI 기술의 공격적인 우위를 선호하고 있습니다. 최근 의회 위원회의 AI 중심의 맨해튼 프로젝트 제안이 시사하는 바와 같이, 군비 경쟁의 가능성은 현실입니다. 슈미트는 중국과 같은 나라들이 AI 모델을 저해하거나 인프라를 목표로 공격할 수 있는 위험을 강조하며, 이는 중국과 러시아와 같은 국가들의 과거 사이버 침입을 고려할 때 불안한 현실입니다.
AI 무기 개발 제한을 위한 글로벌 협력이 가능한가?
궁극적으로 AI 무기 개발을 제한하기 위한 국제적 합의를 이룰 수 있을지는 불확실합니다. 이러한 맥락에서 위협적인 AI 프로젝트의 파괴를 고려하는 것이 그리 터무니없는 해결책이 아닐지도 모릅니다.
FAQ: AGI와 방위에서 AI의 함의 이해하기
인공지능 일반 지능(AGI)란 무엇인가?
AGI는 대부분의 경제적으로 가치 있는 작업에서 인간을 능가하는 매우 자율적인 시스템을 가리키며, 이는 다양한 분야에서 전례 없는 권력과 통제력을 초래할 수 있습니다.
왜 슈미트와 왕은 미국 주도의 AI 군비 경쟁에 대해 우려하고 있는가?
그들은 AI 개발에 대한 경쟁적인 접근 방식이 보복, 파괴 행위, 위험한 군사적 응용을 초래할 수 있다고 우려하며, 이는 냉전 시대의 핵 군비 경쟁과 유사하다고 보고 있습니다.
슈미트와 왕은 정부가 AI 개발에 어떻게 접근해야 한다고 주장하는가?
그들은 AI 개발에 더 신중하게 접근할 것을 권장하며, 핵무기 확산을 억제한 국제 협력 및 협정과 유사한 접근을 지지합니다.
군사 작전에서 AI 사용의 윤리적 함의는 무엇인가?
군사 작전에서 AI 사용은 책임을 논란거리로 만들고, 군인들을 둔감하게 하며, 자동화된 의사 결정의 의도치 않은 결과를 초래할 수 있어 민간인 피해로 이어질 위험이 있습니다.
AI 기술이 현재 군사 전략에 미치는 영향은 무엇인가?
AI 기술은 점점 더 군사 전략에 통합되고 있으며, 작전 계획, 목표 설정 및 효율성을 향상시키고 있습니다. 하지만 이는 갈등의 고조와 그러한 기술의 인도적 영향에 대한 윤리적 우려를 제기합니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
