상상해 보세요. 관중으로 가득 찬 경기장, 함성의 울림, 승패가 걸린 중요한 축구 경기의 짜릿한 긴장감을. 이제, 그 긴장감의 전체 전제, 즉 팬들이 출입 금지된 이유가 완전히 허구에 기반을 두고 있다고 상상해 보세요. 인간의 악의가 아닌, 인공지능의 차갑고 냉정한 알고리즘에 의해 만들어진 허구 말입니다.
작년 말, 이스라엘 축구팀 마카비 텔 아비브는 영국 버밍엄에서 애스턴 빌라와 맞붙을 예정이었습니다. 현지 당국은 웨스트 미들랜즈 경찰의 정보 보고서를 근거로 마카비 텔 아비브 팬을 응원 금지했는데, 훌리건 행위의 위험이 높다는 이유였습니다. 실망스럽지만 합리적인 예방 조치처럼 보였습니다. 진실이 밝혀지기 전까지는요.
보고서의 결과는 정부 관계자들에 의해 즉시 이의를 제기받았습니다. 현재 웨스트 미들랜즈 경찰청장 크레이그 길포드는 자신의 팀이 보고서를 작성하기 위해 마이크로소프트 코파일럿을 사용했으며, 결정적으로 그 내용이 사실인지 확인하지 못했다고 인정했습니다.
결정적인 증거는 무엇일까요? 보고서는 마카비 텔 아비브와 웨스트햄 간의 경기를 언급했는데, 그런 경기는 실제로 열린 적이 없습니다. 코파일럿이 그냥 지어낸 것이죠. 영국 의회 내무위원회에 따르면, 이 유령 경기 당일 웨스트햄은 실제로 올림피아코스와 경기를 치르고 있었습니다.
길포드는 내무위원회에 보낸 서한에서 몇 주 동안 부인한 끝에 “금요일 오후, 웨스트햄 대 마카비 텔 아비브 경기에 대한 오류 결과가 마이크로소프트 코파일럿 사용으로 인해 발생했다는 사실을 알게 되었습니다.”라고 고백했습니다.
AI 환각: 단순한 결함 그 이상
우리는 모두 AI 챗봇이 실수를 저지르는 것을 보았지만, 이는 단순한 오류를 넘어섭니다. 이 사건은 AI “환각”이 심각한 현실 세계의 결과를 초래할 수 있음을 보여줍니다. 주요 컨설팅 회사인 딜로이트가 가짜 연구 및 법원 사례로 가득 찬 AI 생성 보고서를 전달한 후 호주 정부에 260,000달러(240,000유로)의 일부를 환불해야 했던 것을 생각해 보세요. 이는 단순한 결함이 아니라 잠재적인 허위 정보의 원천입니다.
이러한 명확한 위험에도 불구하고, 기술 대기업들은 산업 전반에 걸쳐 AI 통합을 추진하고 있습니다.
엔비디아 CEO 젠슨 황은 10월에 미국이 “다른 어떤 나라보다 AI 기술 채택에 가장 적극적이어야 한다”고 선언했습니다. 그는 “모든 회사, 모든 학생이 AI를 사용하기를” 바랍니다.
황은 심지어 AI 배포에 대한 우려를 제기하는 것이 “해롭고” “사회에 도움이 되지 않는다”고 주장했습니다.
마이크로소프트 역시 전적으로 동참하고 있습니다. 그들은 직원들에게 AI 사용을 의무화하고 코파일럿을 직장 생산성 도구로 홍보합니다. 미국 하원도 코파일럿을 사용합니다.
마이크로소프트 코파일럿은 정확히 무엇일까요?
마이크로소프트 코파일럿을 컴퓨터 내부에 상주하는 디지털 비서라고 생각하세요. 이메일 작성, 문서 요약, 보고서 생성과 같은 작업을 도와주도록 설계되었습니다. 고급 알고리즘을 사용하여 사용자의 요청을 이해한 다음 다양한 소스에서 정보를 가져와 관련성 있고 유용한 응답을 제공하는 방식으로 작동합니다. 그러나 웨스트 미들랜즈 경찰이 발견했듯이, 그 “도움”은 때로는 완전히 조작된 것일 수 있습니다.
자동화의 인간적 비용
웨스트 미들랜즈 경찰의 사례는 고립된 사건이 아니라 더 큰 추세의 증상입니다. 우리는 AI의 한계를 완전히 이해하거나 해결하지 못한 채 AI를 구현하기 위해 서두르고 있습니다. 우리는 AI가 도구일 뿐 인간의 판단력과 비판적 사고를 대체할 수 없다는 점을 기억해야 합니다. AI가 생성한 정보를 맹목적으로 신뢰하는 것은 이미 폭발한 별을 기준으로 항해하는 것과 같습니다. 아름답지만 위험할 정도로 구식입니다.
AI 환각은 어떻게 예방할 수 있을까요?
AI가 “환각”을 일으키는 것을 방지하려면 다층적인 접근 방식이 필요합니다. 첫 번째 방어선은 더 나은 데이터입니다. AI 모델은 방대한 데이터 세트에서 훈련되며, 해당 데이터에 부정확성이나 편향이 포함되어 있으면 AI가 해당 결함을 상속받게 됩니다. 둘째, 개발자는 AI가 불확실한 영역으로 진입할 때 이를 인식할 수 있도록 안전 장치를 구축해야 합니다. 여기에는 신뢰 임계값을 설정하거나 AI가 무언가를 모를 때 인정하도록 장려하는 기술을 사용하는 것이 포함될 수 있습니다. 마지막으로, 그리고 아마도 가장 중요한 것은 인간의 감독이 필요합니다. 웨스트 미들랜즈 경찰이 배웠듯이, AI가 생성한 보고서는 중요한 결정을 내리기 전에 항상 사람이 사실 확인을 해야 합니다.
앞으로 어떻게 해야 할까요?
영국 경찰의 이번 사건은 경고입니다. 탄광 속의 카나리아와 같습니다. 이는 AI 시대에 주의, 비판적 사고 및 인간의 감독이 필요하다는 점을 강조합니다. 우리는 단순히 중요한 결정을 알고리즘에 넘겨주고 최선을 기대할 수 없습니다. AI는 우리의 능력을 증강해야지 대체해서는 안 됩니다. 이 교훈을 배우지 못하면 현실 자체가 협상의 대상이 되는 미래를 준비하는 것일까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
