ChatGPT, Grok 및 Gemini와 같은 AI 챗봇의 증가로 인해 엄청난 편의성이 제공되고 있지만, 동시에 우려스러운 트렌드인 부정확한 정보의 확산이 발생하고 있습니다. 도서관 사서와 정보 전문가들에게 이 “AI 생성 넌센스”는 지치게 하는 부담이 되고 있습니다. 최근 보고서에 따르면 많은 사서들이 존재하지 않는 책과 학술지 기사를 요청하는 수에 압도당하고 있다고 합니다. Scientific American에 실린 기사에 따르면 이러한 문의의 양은 빠르게 증가하고 있습니다.
버지니아 도서관의 연구자 참여 책임자인 Sarah Falls는 모든 이메일 참고 질문의 약 15%가 AI 챗봇에서 유래한다고 추정하고 있습니다. 이러한 요청의 상당 부분은 현실에 존재하지 않는 가상의 인용과 관련되어 있습니다.
흥미롭게도 많은 사람들이 이 현실을 받아들이기 어려워하며, 종종 AI의 정보가 사서의 전문성보다 신뢰할 수 있다고 여깁니다. 이 트렌드는 404 Media의 또 다른 보고서에서도 확인되며, 일부 사용자들은 정보 제공을 위해 헌신하는 노련한 전문가보다 챗봇을 더 신뢰한다고 강조합니다.
국제적십자위원회(ICRC)의 최근 게시물에서는 “참고자료를 찾을 수 없다면, 이는 ICRC가 정보를 withholding(제한)한 것이 아닙니다. 이는 불완전한 인용, 다른 기관에 보존된 문서 또는 점점 더 많아지는 AI 생성 환각일 수 있는 다양한 상황을 설명할 수 있습니다.”라는 내용을 밝혔습니다. 이러한 주장은 증가하는 잘못된 정보에 직면한 도서관 사서들의 좌절감을 드러냅니다.
“네, 저에게도 이런 일이 있었습니다. 저는 작년에 ChatGPT가 언급한 그럴 듯한 오래된 프랑스어 은유 책을 찾기 위해 서점에 갔지만, 존재하지 않는 책이라는 것을 알게 되었습니다.” — Joanne Boisson (@joanneboisson.bsky.social)
올해에는 가짜 책 및 저널 인용이 수없이 발생했습니다. 예를 들어, Chicago Sun-Times의 자유 기고자는 여름 읽기 목록에 완전히 허구인 열 가지 제목을 추천했습니다. 심지어 공중보건국 장관인 Robert F. Kennedy Jr.의 ‘Make America Healthy Again’ 위원회의 발견 사항도 검토되었고, 그 중 최소 7개의 인용이 실제 출처와 일치하지 않음을 보여주었습니다.
AI가 주로 비난을 받고 있지만, 부정확성은 챗봇이 주류가 되기 훨씬 전부터 존재했습니다. 2017년, 한 교수는 허구의 연구 논문을 인용한 400개 이상의 학술 기사를 발견했습니다. 이 논문은 단순한 필러 텍스트에 불과했습니다.
Van der Geer, J., Hanraads, J.A.J., Lupton, R.A., 2010. The art of writing a scientific article. J Sci. Commun. 163 (2) 51-59.
이 인용은 저급한 논문이 어떻게 잘못된 정보를 지속적으로 유포할 수 있는지를 잘 보여주는 예입니다. 그러나 지금 달라진 점은 많은 사람들이 평판 좋은 인간 소스보다 AI가 생성한 데이터를 더 쉽게 받아들이는 것처럼 보인다는 점입니다.
“저는 지역 역사 문의를 많이 받는 사람으로서 AI 도구로 연구를 시작한 사람들이 상당히 증가했음을 확인할 수 있습니다. 이들은 종종 일치하는 데이터를 찾지 못합니다.” — Huddersfield Exposed (@huddersfield.exposed)
사용자들이 종종 인간 전문성보다 AI를 신뢰하는 이유는 무엇일까요? AI의 권위 있는 어투는 설득력이 있어 사용자가 인간 도서관 사서보다 기계를 더 믿게 되는 경향이 있습니다. 또한 많은 사용자들은 AI의 신뢰성을 높이기 위해 자기 나름의 방법을 개발했으며, “환각을 일으키지 마라”와 같은 명령이 양질의 결과를 가져온다고 스스로 설득하고 있습니다. 정말 그렇게 간단하다면 기술 기업들은 그러한 기능을 빠르게 통합했을 것입니다.
이러한 문제를 보다 잘 이해하는 것은 우리가 점점 더 인공지능에 의존하게 되는 세상에서 매우 중요합니다. 이는 출처를 검증하고 정보를 교차 참조하며 정확성이 필수적인 경우 교육을 받은 전문가와 상담하는 필요성을 강조합니다.
사람들이 정확한 정보를 찾는 데 대해 가지고 있는 일반적인 질문은 무엇인가요?
AI 챗봇이 가짜 인용을 제공할 수 있습니까? 예, 많은 AI 챗봇이 허구의 참고문헌이나 인용을 생성하여 사용자들이 정확한 정보를 찾는 데 혼란을 초래하고 있습니다.
왜 도서관 사서들은 참고 요청에 압도당했나요? 도서관 사서들은 AI 챗봇이 생성한 존재하지 않는 작품과 관련된 문의의 증가에 직면해 있으며, 이로 인해 이용자들은 진정한 자원을 어디서 찾아야 할지 모르게 됩니다.
AI 챗봇이 제공하는 정보를 어떻게 검증할 수 있습니까? 최선의 방법은 정보를 신뢰할 수 있는 데이터베이스, 학술 저널과 교차 확인하거나 전문 도서관 사서와 상담하는 것입니다.
왜 누군가는 도서관 사서보다 AI를 더 신뢰할까요? 많은 사람들은 AI 출력이 권위 있는 어투 때문에 더 설득력이 있어 기계가 생성한 콘텐츠를 잘못 신뢰하게 됩니다.
환각된 참조란 무엇입니까? 환각된 참조는 실제 존재하지 않는 인용이나 출처로, 사용자 쿼리에 대한 응답으로 AI 도구에 의해 mistakenly(잘못) 생성된 것입니다.
정보의 세계를 탐색하면서 AI 생성 콘텐츠의 함정에 대한 인식을 유지하는 것이 중요합니다. 더 많은 통찰과 팁을 얻으려면 Moyens I/O에서 여정을 계속하세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
