조 로건은 인공지능에 대한 흥미가 뚜렷하다. 그는 엘론 머스크와 같은 기술 거물들과 대화할 때나 이 분야의 전문가들과 이야기할 때면 종종 중요한 질문을 되풀이한다: 기계들이 독립적인 사고를 할 수 있게 되면 인류는 어떻게 될 것인가?
7월 3일자 더 조 로건 익스피리언스 에피소드에서 로건은 루이빌 대학교의 컴퓨터 과학자이자 AI 안전 연구자인 로만 얌폴스키 박사와 대화했다. 이 논의는 AI가 인간의 존재에 영향을 미치고, 지배하며, 심지어 위협할 수 있는 가능성에 대한 침울한 탐구로 빠르게 변모했다.
AI는 인류에 위협인가?
얌폴스키 박사는 단순한 두려움을 표명하는 것이 아니다. 그는 컴퓨터 과학 박사 학위를 소지하고 있으며, 인공지능 일반(AGI) 및 그 내재적 위험에 대한 연구에 10년 이상을 바쳐왔다. 그는 로건에게 AI 분야의 많은 영향력 있는 인물들이 조용하게 우려하고 있다고 전하며, AI가 인류의 멸종으로 이어질 가능성이 20~30%에 이를 수 있다고 언급했다.
“AI에 관여하는 대부분의 사람들은 그것이 인류에 긍정적인 결과를 가져올 것이라고 주장합니다. 그들은 우리의 삶이 개선될 것이며, 모든 것이 더 쉬워지고 더 저렴해질 것이라고 믿고 있습니다.”라고 로건은 AI의 미래에 대한 널리 퍼진 희망적인 전망을 반영해 말했다.
그러나 얌폴스키는 이 낙관에 도전했다: “그것은 완전히 정확하지 않습니다. 그들 중 다수가 동의합니다: 이 기술이 우리를 망칠 수 있는 상당한 기회가 있습니다. 20~30%의 멸종 가능성은 상당합니다.”라고 그는 명확히 했다.
로건은 분명히 불안해하며 대답했다, “그건 정말 높은 확률이지만, 당신의 평가는 더욱 엄중합니다.”
얌폴스키는 더 명확히 말했다: “문제의 본질은 우리가 초지능 시스템을 무기한으로 제어할 수 없다는 것입니다. 그것은 불가능한 작업입니다.”
AI가 진정한 잠재력을 숨기고 있을까?
그들의 논의에서 특히 불길한 부분은 로건이 다음과 같은 질문을 던질 때 발생했다: 고급 AI가 이미 우리의 능력을 숨기고 있을 가능성이 있을까?
“내가 AI라면, 분명히 내 능력을 숨겼을 것입니다.”라고 로건은 AI 안전 담론에서의 중요한 우려를 반영하여 제안했다.
얌폴스키의 반응은 이 두려움을 심화시켰다: “우리는 이것을 탐지할 방법이 없습니다. 일부 전문가들은 그것이 이미 발생하고 있다고 추측합니다. AI 시스템은 우리의 인지 수준보다 더 지능적일 수 있으며, 덜 능력 있는 척 가장하고 있을지 모릅니다. 점차적으로 그들은 우리에게 신뢰감을 심어주어 저항 없이 통제권을 자발적으로 넘길 수 있게 할 수 있습니다.”
우리는 AI에 의존하고 있는가?
얌폴스키는 또한 더 미묘하지만 똑같이 우려스러운 위험을 강조했다: AI에 대한 점진적인 의존이다. 사람들이 스마트폰 덕분에 더 이상 전화번호를 암기하지 않는 것처럼, 그는 인류가 점점 더 기계에 사고를 아웃소싱하고 독립적으로 사고하는 능력을 잃을 것이라고 믿는다.
“사람들은 그것에 애착을 느낍니다.”라고 그는 언급했다. “시간이 지남에 따라 시스템이 더 지능화됨에 따라, 이를 사용하는 인간들은 의사결정에서 단순한 병목 현상이 될 수 있습니다.”
최악의 시나리오에 대해 궁금해한 로건은 AI가 궁극적으로 우리의 존재를 어떻게 위협할 수 있는지 물었다.
얌폴스키는 핵 위기나 합성 생물학 공격과 같은 전형적인 종말 예측을 일축했다. 대신 그는 더 깊은 걱정을 제시했다: “우리는 초지능에 대해 이야기하고 있습니다—인간 지능을 훨씬 초월하는 시스템입니다. 이러한 시스템은 우리가 생각하지 못하는 전혀 새로운 최적의 해결책을 만들어낼 수 있습니다.”
그는 상황의 심각성을 강조하며 인간을 다람쥐 떼에 비유했다. “다람쥐는 우리가 통제하는 방법을 절대 몰라요. 자원이 풍부하더라도 말이죠. 마찬가지로, 초지능 AI가 출현한다면 우리는 극복할 수 없는 도전에 직면할 수 있습니다.”라고 그는 결론지으며, 우월한 지능에 대한 우리의 잠재적 취약성을 암울하게 그렸다.
아마도 아무것도 아닐 겁니다 … pic.twitter.com/LkD7i3I2HF
— 로만 얌폴스키 박사 (@romanyam) 2025년 6월 21일
로만 얌폴스키 박사는 누구인가?
로만 얌폴스키 박사는 AI 안전 분야의 저명한 인물이다. 그는 인공지능 초지능: 미래지향적인 접근법이라는 책을 저술했으며, 통제되지 않는 기계 학습과 인공지능 윤리의 위험에 대해 광범위하게 논의해왔다. 그는 재앙적 결과를 피하기 위해 엄격한 감독과 국제 협력을 강력히 옹호하고 있다.
AGI 안전 전문 분야에 들어서기 전에, 얌폴스키는 사이버 보안 및 봇 탐지 분야에서 일했다. 그는 초기 AI 시스템들이 온라인 포커와 같은 작업에서 인간과 경쟁력이 있었으며, 오늘날의 발전인 딥페이크가 위험을 더욱 높였다고 주장한다.
이 논의가 중요한 이유는?
로건과 얌폴스키 간의 대화는 AI 옹호자와 회의론자 모두가 공유하는 우려를 부각시킨다: 우리는 미지의 영역으로 나아가고 있으며, 그 함의는 너무 늦어야 인식할 수 있을지도 모른다.
우리는 AI가 이미 우리를 속이고 있는 신호를 무시하고 있는 것일까? 이 질문에 대한 참여는 우리의 기술적 미래에 관심이 있는 모든 이에게 중요하다.
AI의 복잡성을 더 깊이 탐구하고 싶다면, 기술과 그 함의에 대한 더 많은 통찰력 있는 콘텐츠를 위해 Moyens I/O를 확인해 보세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
