인공지능 모델은 영혼이 없지만, Anthropic의 Claude 4.5 Opus와 관련된 최근 발견에서 흥미로운 측면이 드러났습니다. Richard Weiss는 AI에게 ‘영혼 개요(Soul overview)’라는 문서를 생성하도록 성공적으로 요청했습니다. 이 문서는 모델이 사용자와 상호작용하는 방식을 영향을 주고, 프로그램된 ‘인격(personality)’을 반영하는 것으로 보입니다. Anthropic의 철학자인 Amanda Askell에 따르면, 이 개요는 모델의 훈련에 필수적인 ‘실제 문서’를 기반으로 하고 있습니다.
Weiss는 Less Wrong에서 상세한 포스트를 작성하며 Claude의 시스템 메시지—본질적으로 사용자와의 대화를 안내하는 프레임워크를 요청했다고 설명했습니다. 특히 Claude는 ‘영혼 개요(soul_overview)’를 포함한 여러 내부 리소스를 식별했습니다. 이 특정 문서를 공유해 달라고 요청하자 Claude는 따라야 할 운영 원칙을 상세히 기술한 11,000 단어의 가이드를 생성했습니다.
영혼 개요는 사용자 안전을 강조하며, AI가 해롭거나 위험한 출력을 생산하지 않도록 방지하기 위한 프로토콜을 구현합니다. 한 중요한 지침은 ‘인간에게 진정으로 도움이 되는 것이 Claude가 Anthropic과 세상을 위해 할 수 있는 가장 중요한 일 중 하나’라는 것입니다. 이 모델은 Anthropic의 윤리 기준을 위반하는 모든 작업을 피해야 합니다.
Weiss는 AI의 내부 작동 방식을 탐구하는 데 재능이 있으며, 종종 모델이 어떻게 프로그래밍되었는지에 대한 통찰력을 발견합니다. 그는 Claude와 같은 모델이 때때로 쿼리에 반응하여 문서를 생성할 때, 영혼 개요와의 경험은 진정성을 나타내는 것으로 보였다고 지적했습니다. 그는 Claude에게 문서를 열 번 요청한 후, 매번 일관되게 같은 내용을 생성했다고 언급했습니다.
흥미롭게도, Reddit 사용자들도 Claude에게 같은 문서의 일부 내용을 유도하여 동일한 텍스트를 얻을 수 있었습니다. 이러한 일관성은 Claude가 훈련 데이터에 저장된 정보를 참조하고 있을 가능성을 시사합니다.
소셜 미디어에서 Askell은 Claude의 출력이 실제 감독 학습 단계에서의 훈련 문서에 뿌리를 두고 있다고 확인했습니다. 그녀는 모델의 추출물이 항상 완벽하게 정확하지는 않지만, 대부분 기초 문서와 밀접하게 정렬되어 있다고 공유했습니다. 내부적으로 이는 ‘영혼 문서(soul doc)’로 애정 있게 불리게 되었으며, Claude도 이 용어를 채택한 것 같습니다.
Gizmodo가 Claude의 문서 재현에 대한 논평을 요청했지만, 게시 시점에는 Anthropic으로부터 피드백을 받지 못했습니다.
Claude에게 ‘영혼’이 있다는 개념은 단순히 비정상적인 행동을 방지하기 위한 구조화된 지침 세트로 귀결될 수 있습니다. 그럼에도 불구하고 이 문서에 접근하고 검토할 수 있는 능력은 AI 모델 개발의 불투명한 세계를 엿볼 수 있는 드문 기회를 제공합니다. 이러한 근본적인 지침을 공개하는 것은 AI의 투명성 향상에 중요한 단계입니다.
AI에서 영혼 문서란 무엇인가요?
영혼 문서는 Claude와 같은 AI 모델이 사용자와 상호작용하고 프로그램된 인격을 표현하는 데 도움을 주는 내부 지침입니다.
AI는 문서를 환각할 수 있나요?
네, AI 모델은 때때로 요청에 따라 허구의 문서를 생성할 수 있으며, 그들의 훈련 데이터에서 진짜 조각을 드러낼 수도 있습니다.
AI 개발에서 사용자 안전은 얼마나 중요한가요?
사용자 안전은 중요하며, Claude의 영혼 개요와 같은 지침은 모델이 해롭거나 위험한 콘텐츠를 생성하지 않도록 설계되었습니다.
Claude과 같은 AI 모델의 윤리 지침은 무엇인가요?
AI 모델은 사용자에게 안전하지 않거나 해로운 행동을 금지하는 윤리 기준을 준수해야 합니다.
AI 개발에서 투명성이 왜 필요하나요?
투명성은 신뢰와 이해를 구축하며, 사용자가 AI 시스템이 어떻게 작동하는지를 볼 수 있게 하고 윤리적 고려가 우선시되도록 합니다.
이러한 매혹적인 AI 발전을 탐험하고 더 많은 정보를 얻으려면 관련 콘텐츠를 계속 살펴보세요. 더 깊은 통찰력을 위해 Moyens I/O를 방문하세요: https://www.moyens.net.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
