AI 분야의 연구가 진전됨에 따라 AGI(인공 일반 지능) 개념이 이론에서 현실로 옮겨가기 시작했습니다. 우리가 AI 시대의 초기 단계에 살고 있다는 것은 의심의 여지가 없으며, 많은 생성 AI 애플리케이션이 이미 출시되어 있습니다. 하지만 다음 단계는 무엇일까요? AGI가 미래일까요? 인공 일반 지능(AGI)이 무엇이고, 그것이 인류에게 어떤 영향을 미칠 수 있는지 알아보려면 계속 읽어보세요.
인공 일반 지능(AGI)은 무엇입니까?
AGI의 정의에 관한 한, 연구자와 AI 연구실 사이에 그것이 무엇을 의미하는지에 대한 광범위한 합의는 없습니다. 그러나 AGI(인공 일반 지능)라는 용어는 주로 다음과 같은 유형의 AI 시스템으로 이해됩니다. 인간의 능력과 맞먹거나 능가하다특히 인지 과제에서 그렇습니다.
많은 AI 연구실은 AGI에 대한 자체 정의를 가지고 있습니다. 2023년 2월, 오픈AI AGI가 그들에게 무엇을 의미하는지 설명했습니다.일반적으로 인간보다 더 똑똑한 AI 시스템“. 이 회사는 인류 전체에 이로운 AGI를 개발하고자 합니다. 동시에 OpenAI는 AGI와 같은 기술과 관련된 “심각한” 위험을 인정합니다. 이 기술은 “남용, 심각한 사고 및 사회적 혼란“.
DeepMind(현재 Google DeepMind)의 공동 창립자 중 한 명이자 현재 같은 회사의 최고 AGI 과학자인 Shane Legg는 동료 연구원인 Ben Goertzel과 함께 AGI라는 용어를 만들어냈습니다. Legg는 AGI가 매우 광범위한 것이라고 말합니다. DeepMind의 위치 AGI에 대한 그러한 시스템은 “다양한 작업을 수행할 수 있어야 할 뿐만 아니라 해당 작업을 수행하는 방법을 배우고 성과를 평가하며 필요할 때 도움을 요청할 수 있어야 합니다..”
Google DeepMind 팀은 AGI의 여러 수준을 분류했습니다. 떠오르는, 유능한, 전문가, 거장, 초인적인 수준입니다. DeepMind 연구원들은 현재 프런티어 AI 모델이 일부 떠오르는 행동을 보였다고 생각합니다.
AGI의 특징
AGI의 정의에 대한 광범위한 합의가 없는 것처럼, 그 특성도 잘 정의되어 있지 않습니다. 그러나 AI 연구자들은 인간 수준의 AGI는 인간처럼 추론할 수 있어야 한다고 말합니다. 그리고 불확실한 상황에서도 결정을 내릴 수 있어야 합니다. 상식적 이해를 포함하여 거의 모든 것에 대한 지식이 있어야 합니다.
또한 AGI 시스템은 계획을 세울 수 있어야 합니다. 새로운 기술을 습득하다. 개방형 질문을 해결하고 자연어로 소통해야 합니다. 인지 과학자들은 AGI 시스템도 다음과 같아야 한다고 주장합니다. 상상력과 같은 특성 새로운 아이디어와 개념을 형성합니다. AGI 특성에는 다음과 같은 신체적 특성도 포함됩니다. 보고, 듣고, 움직이고, 행동하다.
AI 모델이 AGI에 도달했는지 테스트하기 위해 유명한 테스트를 포함한 많은 테스트가 있습니다. 튜링 테스트. 컴퓨터 과학자 앨런 튜링의 이름을 딴 이 테스트는 AI 시스템이 인간 대화를 충분히 잘 모방할 수 있는지 확인하는 방법입니다. 이는 사람이 기계와 대화하고 있는지 알 수 없도록 하기 위한 것입니다.
많은 사람들은 현재의 AI 챗봇이 이미 튜링 테스트를 통과했다고 믿습니다. 그러나 이 테스트는 또한 기계가 인간과 동등한 지능적인 행동을 보여야 한다고 제안합니다. 다른 테스트에는 다음이 포함됩니다. 취업 테스트존 닐슨이 제안한 것입니다. 기계가 인간과 비슷하게 중요한 일을 해낼 수 있어야 한다고 말합니다.
애플의 공동 창립자인 스티브 워즈니악도 제안했다. 커피 테스트 지능형 AI 시스템을 평가하기 위해서입니다. 그는 충분히 지능적인 AI 시스템은 커피 머신을 찾고, 물과 커피를 추가하고, 인간의 개입 없이 양조 과정을 완료할 수 있어야 한다고 말합니다.
AGI 수준
OpenAI는 AGI가 단번에 달성되지 않을 것이라고 생각하며, 여러 단계의 점진적인 진전을 거쳐 최종적으로 AGI를 달성할 것이라고 합니다. 블룸버그 최근 OpenAI가 AGI 목표를 실현하기 위해 5단계의 진전을 이뤘다고 보고했습니다.
첫 번째는 대화형 AI 현재 ChatGPT, Claude, Gemini와 같은 챗봇이 있는 곳입니다. 두 번째 수준은 추론 AIAI 모델이 인간처럼 추론할 수 있는 곳입니다. 우리는 아직 여기에 이르지 못했습니다. 세 번째 수준은 자율형 AIAI 에이전트가 사용자를 대신하여 자율적으로 작업을 수행할 수 있는 경우입니다.
네 번째 수준은 AI 혁신지능형 AI 시스템이 스스로를 혁신하고 개선할 수 있는 곳입니다. 마지막으로 다섯 번째 수준은 조직 AIAI 시스템이 루프에 인간이 필요 없이 전체 조직의 작업을 수행하고 작업을 완수할 수 있는 경우. 이런 종류의 AI 시스템은 실패하고, 학습하고, 개선하고, 여러 에이전트와 함께 작업하여 병렬로 작업을 수행할 수 있습니다.
AGI 진행 상황 및 시간 척도: 달성까지 얼마나 남았는가?
OpenAI의 CEO인 샘 알트먼(Sam Altman) 믿는다 우리는 앞으로 10년 안에 다섯 번째 단계인 조직 AI에 도달할 수 있을 것입니다. 많은 전문가는 언제 AGI 꿈을 실현할 수 있을지에 대해 서로 다른 예측을 내립니다. 벤 고르첼은 우리가 앞으로 수십 년 안에, 아마도 2030년대에 AGI를 달성할 수 있을 것이라고 예측합니다.
“AI의 대부”로 널리 알려진 제프리 힌튼은 처음에 AGI의 타임라인에 대해 불확실성을 표현했습니다. 이제 그는 범용 AI가 아마 20년 정도 걸릴 거야.
Google DeepMind의 저명한 연구자이자 Keras의 창시자인 François Chollet는 LLM과 같은 현재 기술을 확장하면 AGI가 가능하지 않을 것이라고 생각합니다. 그는 심지어 새로운 벤치마크를 개발했습니다. 아크-AGI 그리고 이를 해결하기 위해 현재 AI 모델에 대한 공개 경쟁을 시작했습니다. Chollet은 AGI 개발이 중단되었으며 진전을 이루기 위해 새로운 아이디어가 필요하다고 주장합니다.
Meta의 수석 AI 과학자인 Yann LeCun은 또한 LLM에는 한계가 있으며 AGI를 달성하기에 충분하지 않음 그들은 지능과 추론 능력이 부족하기 때문입니다.
AGI의 실존적 위험
전 세계적으로 AI 개발이 한창이지만, 많은 전문가들은 AGI를 달성하면 인류가 위험에 처할 것이라고 믿습니다. OpenAI 자체도 이 기술과 관련된 심각한 위험을 인정합니다. Geoffrey Hinton은 Google을 그만둔 후 다음과 같이 말했습니다. CBS 뉴스 AI가 인류를 멸망시킬 수 있는지에 대한 질문에 그는 “상상할 수 없는 일은 아니다”라고 말했습니다. 그는 훨씬 더 지능적인 AI 시스템을 제어하는 방법을 찾는 것을 더욱 강조했습니다.
AGI 시스템은 인간의 능력과 일치할 수 있으므로 다음과 같은 결과를 초래할 수 있습니다. 대량 실업 많은 산업에서. 이것은 전 세계적으로 경제적 어려움을 악화시킬 뿐입니다. OpenAI는 이미 ChatGPT로 대체될 수 있는 직업에 대한 자세한 내용을 담은 논문을 발표했습니다. 그 외에도, 이처럼 강력한 시스템은 오용의 위험 인간의 가치와 일치하지 않으면 의도치 않은 결과가 초래될 수 있습니다.
엘론 머스크는 또한 AGI의 위험성에 대해 경고했으며 AGI 개발은 주로 인간의 이익과 일치해야 한다고 주장했습니다. 작년에 머스크는 업계의 저명한 중진들과 함께 거대한 AI 실험 일시 중단.
OpenAI의 공동 창립자이자 전 수석 과학자인 일리아 수츠케버는 회사를 떠나 Safe Superintelligence라는 새로운 스타트업을 시작했습니다. 그는 이렇게 말합니다. “AI는 양날의 검입니다. 많은 문제를 해결할 수 있는 잠재력이 있지만, 새로운 문제를 만들어내기도 합니다. 미래는 AI에게 어쨌든 좋을 것이지만, 인간에게도 좋다면 좋을 것입니다.“
일리아는 이제 강력한 AI 시스템을 인간의 가치와 일치시켜 인류에게 재앙적인 결과를 초래하지 않도록 노력하고 있습니다. 구글의 전 AI 연구원인 팀닛 게브루는 대규모 언어 모델(LLM)과 관련된 위험을 강조하는 논문을 발표한 혐의로 회사에서 해고되었습니다. 그녀는 AGI가 무엇인지 묻는 대신 “우리가 왜 그것을 만들어야 하는가“.
AGI는 광범위한 일자리 상실로 사회의 사회적 구조에 잠재적으로 영향을 미칠 수 있습니다. 이는 불평등을 더욱 심화시키고 갈등과 희소성으로 이어질 수 있습니다. 따라서 질문을 던집니다. AGI를 만들어야 할까요? AGI 시스템을 개발하기 전에 해결해야 할 많은 질문과 윤리적 문제가 있습니다. AGI에 대한 생각은 무엇입니까? 아래의 댓글에서 알려주세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
