OpenAI CEO 샘 알트먼의 갑작스러운 해고와 복직을 둘러싼 추측의 소용돌이 속에서 논란의 중심에는 하나의 핵심 의문점이 있습니다. 알트먼은 애초에 이사회에서 해고된 이유가 무엇일까요?
우리는 마침내 답의 일부를 얻었을지도 모르고, 그것은 내부 코드명 “Q*” 또는 Q Star를 가진 신비한 OpenAI 프로젝트의 처리와 관련이 있습니다. 정보는 제한적이지만, 지금까지 잠재적으로 게임을 바꿀 수 있는 개발에 대해 우리가 알고 있는 모든 것이 여기에 있습니다.
프로젝트 Q*란 무엇인가요?
계속 진행하기 전에, 프로젝트 Q*에 대한 모든 세부 사항(그 존재 포함)은 알트먼 해고를 둘러싼 드라마 이후 나온 몇 가지 최근 보고서에서 나왔다는 점을 밝혀둡니다. 로이터의 기자들 11월 22일, “이 문제에 대해 잘 아는 두 사람”으로부터 정보를 받았다고 밝혔으며, 해고가 이루어지기 몇 주 전에 내부적으로 무슨 일이 일어났는지에 대한 베일 뒤를 엿볼 수 있는 기회를 제공했습니다.
기사에 따르면, Project Q*는 수학을 배우고 수행하는 데 뛰어난 새로운 모델이었습니다. 여전히 초등학교 수학을 푸는 수준에 불과하다고 알려졌지만, 시작점으로서 관련 연구자들이 이전에 보지 못했던 지능을 보여주는 데 유망해 보였습니다.
충분히 무해해 보이지 않나요? 글쎄요, 그렇게 빨리 말하지 마세요. Q*의 존재는 여러 직원 연구자들이 이사회에 편지를 써서 프로젝트에 대한 경각심을 불러일으킬 만큼 무섭다고 합니다. 그 편지에는 “인류를 위협할 수 있다”고 주장했습니다.
반면, Q*를 설명하려는 다른 시도는 그렇게 참신하지 않으며 확실히 그렇게 지구를 뒤흔드는 것은 아닙니다. Meta의 수석 AI 과학자 Yann LeCun은 트윗했다 Q*는 LLM(대규모 언어 모델) 신뢰성을 개선하는 방법으로 “자기 회귀 토큰 예측을 계획으로 대체”하는 것과 관련이 있습니다. LeCun은 OpenAI의 모든 경쟁사가 이 문제를 해결하기 위해 노력해 왔으며 OpenAI가 이 문제를 해결하기 위해 특정 직원을 고용했다고 말합니다.
Q*에 관한 터무니없는 내용은 무시해 주세요.
LLM 신뢰도를 개선하기 위한 주요 과제 중 하나는 자기 회귀 토큰 예측을 계획으로 대체하는 것입니다.
거의 모든 최고 연구소(FAIR, DeepMind, OpenAI 등)가 이를 위해 노력하고 있으며 일부는 이미 게시했습니다.
— 얀 르쿤 (@ylecun) 2023년 11월 24일
LeCun의 요점은 그러한 개발이 중요하지 않다는 것이 아니라, 다른 AI 연구자들이 현재 논의하지 않는 알려지지 않은 개발이 아니라는 것입니다. 반면에, 이 트윗에 대한 답변에서 LeCun은 Altman을 무시하며, 그가 “자기기만의 오랜 역사”를 가지고 있다고 말하며, Q*에 대한 보고가 학습된 모델에서 계획 문제에 상당한 진전이 있었다고 확신시키지 못한다고 제안합니다.
정말 Q*가 샘 알트먼이 해고된 이유였나요?
샘 알트먼의 해고에 대한 추측이 처음 나왔을 때부터 주요 용의자 중 하나는 안전주의에 대한 그의 접근 방식이었습니다. 알트먼은 OpenAI가 비영리 단체로서의 뿌리에서 벗어나 상업화로 나아가도록 밀어붙인 사람이었습니다. 이는 ChatGPT의 공개 출시와 ChatGPT Plus의 최종 출시로 시작되었으며, 둘 다 생성 AI의 새로운 시대를 열었고, Google과 같은 회사도 기술을 공개하게 되었습니다.
이 기술이 대중에게 공개되는 것에 대한 윤리적, 안전적 우려는 항상 존재해 왔지만, 이 기술이 이미 세상을 어떻게 바꾸었는지에 대한 모든 흥분에도 불구하고 말입니다. 이 기술이 얼마나 빨리 발전하고 있는지에 대한 더 큰 우려도 잘 문서화되어 있으며, 특히 GPT-3.5에서 GPT-4로의 도약과 함께 그렇습니다. 어떤 사람들은 이 기술이 충분한 규제나 감독 없이 너무 빨리 발전하고 있다고 생각하며, Reuters 보도에 따르면 “결과를 이해하기 전에 진보를 상용화하는 것”이 Altman이 처음 해고된 이유 중 하나로 나열되었습니다.
위에서 언급한 Q*에 대한 편지에 Altman이 구체적으로 언급되었는지는 알 수 없지만, 이는 이사회가 Altman을 해고하기로 결정한 이유 중 하나로 언급되고 있으며, 이후 그 결정은 뒤집혔습니다.
해고되기 불과 며칠 전, 알트만은 AI 서밋에서 몇 주 전에 주요 “발견의 최전선”이 추진될 때 “방에 있었다”고 언급한 것을 언급할 가치가 있습니다. 타이밍을 보면 이것이 Q*의 획기적인 진전을 언급한 것일 수 있으며, 그렇다면 알트만이 프로젝트에 깊이 관여했다는 것을 확인할 수 있습니다.
조각들을 모아보면, 상업화에 대한 우려는 처음부터 존재해 온 것 같고, Q*에 대한 그의 대우는 단지 마지막 한 방울일 뿐이었습니다. 이사회가 급속한 발전(그리고 아마도 Altman 자신의 태도)에 대해 너무 걱정해서 올스타 CEO를 해고했다는 사실은 충격적입니다.
일부 추측을 잠재우기 위해, 더 버지 “이 문제에 대해 잘 아는 사람”으로부터 Q*에 대한 편지가 이사회에 전달되지 않았으며, “회사의 연구 진행 상황”이 Altman의 해고 이유가 되지 않았다는 말을 들었다고 합니다.
모든 드라마에 대한 적절한 설명을 하기 위해서는 추가 보도가 나올 때까지 기다려야 합니다.
이것이 정말 AGI의 시작일까요?
AGI는 인공 일반 지능을 의미하며, OpenAI는 처음부터 이 방향으로 나아갔습니다. 이 용어는 사람마다 의미가 다르지만, OpenAI는 항상 AGI를 “경제적으로 가치 있는 대부분의 작업에서 인간을 능가하는 자율 시스템”이라고 정의했습니다. Reuters 보고서에서 말했듯이, 이 정의에는 “자기 인식 시스템”에 대한 언급이 전혀 없습니다. 이는 종종 AGI가 의미하는 바입니다.
하지만 표면적으로 보면 AI 수학의 발전은 그 방향으로 큰 진전으로 보이지 않을 수 있습니다. 결국, 우리는 수십 년 동안 컴퓨터가 수학을 도와왔습니다. 하지만 Q*에 부여된 능력은 계산기에 그치지 않습니다. 수학에서 문해력을 습득하려면 인간과 같은 논리와 추론이 필요하며, 연구자들은 그것이 대단한 일이라고 생각하는 듯합니다. 쓰기와 언어를 통해 LLM은 답변과 응답에서 더 유연해질 수 있으며, 종종 질문과 프롬프트에 대한 광범위한 답변을 제공합니다. 하지만 수학은 정반대로, 종종 문제에 대한 정답이 단 하나뿐입니다. Reuters 보고서는 AI 연구자들이 이러한 종류의 지능이 “새로운 과학 연구에 적용될 수도 있다”고 믿는다고 시사합니다.
분명히 Q*는 아직 개발 초기 단계인 듯하지만, GPT-4 이후로 본 가장 큰 진전인 듯합니다. 과장된 광고가 사실이라면, 적어도 OpenAI에서 정의한 대로라면 AGI로 가는 길에서 중요한 단계로 간주되어야 합니다. 관점에 따라 낙관적인 흥분을 불러일으키거나 실존적 공포를 불러일으킬 수 있습니다.
하지만 다시 한번, 위에서 언급한 LeCun의 발언을 잊지 말자. Q*가 무엇이든, OpenAI가 개발을 시도한 유일한 연구실이 아니라고 가정하는 것이 안전할 것이다. 그리고 The Verge 보고서가 주장하듯이 실제로 Altman의 해고 이유가 되지 않는다면, Reuters 보고서가 주장하는 것만큼 큰 문제가 아닐 수도 있다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
