금요일 오후에 이메일 한 통이 도착했습니다. 몇 주 전에 인용했던 논문에 대한 철회 통지였습니다. 당신의 마음은 가라앉습니다. 이제 신뢰를 잃은 연구에 당신의 연구가 얼마나 의존하고 있을까요? 요즘 들어 흔히 겪는 일입니다. 인공지능의 끊임없는 진격이 과학 출판의 근간을 무너뜨리고 있습니다.
ArXiv의 상처: 과학의 최첨단
한때 인터넷의 존재를 거의 완벽하게 정당화했던 과학 저장소인 ArXiv의 중요성은 아무리 강조해도 지나치지 않습니다. ArXiv(발음은 묻는 사람에 따라 “아카이브” 또는 “아-엑스-아이-브이”)는 1991년부터 과학자들과 연구자들이 과학계에 “이봐, 나 이거 방금 썼어”라고 알리는 프리프린트 서버입니다. 동료 평가(peer review)는 빙하처럼 느리지만 필수적입니다. ArXiv는 꼼꼼한 검토 대신 조정자의 간단한 검토만 필요하므로 발견과 동료 평가 사이에 쉬운 중간 단계를 추가하여 최신 혁신을 거의 즉시 긴급하게 처리할 수 있습니다.
그러나 쉽게 이용할 수 있는 AI 도구의 부상은 ArXiv에 상처를 입혔고, 출혈이 일어나고 있습니다. 그리고 이 출혈을 멈출 수 있을지는 불분명합니다. 봇물이 터졌고 신호 대 잡음비는 급락하고 있습니다.
The Atlantic의 학문적 연구에 대한 끔찍한 예측
교수는 화면을 멍하니 바라보았습니다. 한때 꼼꼼하게 작성한 데이터가 있던 디지털 유령 도시였습니다. The Atlantic의 최근 기사에서 언급했듯이 ArXiv의 창시자이자 코넬 대학의 교수인 폴 긴스파그는 ChatGPT의 등장 이후 AI가 ArXiv에 쓰레기 출판을 막는 미미하지만 필요한 장벽을 뚫는 데 사용될 수 있다고 걱정해 왔습니다. 작년에 긴스파그는 ArXiv 제출물에서 있을 법한 AI를 조사한 분석에 협력했습니다. 끔찍하게도, LLM을 사용하여 그럴듯하게 들리는 논문을 생성하는 과학자들이 AI를 사용하지 않는 과학자들보다 더 많은 논문을 발표했습니다. AI가 작성하거나 보강한 논문을 게시한 사람들의 논문 수는 33% 더 많았습니다.
AI는 언어 장벽을 극복하는 것과 같은 일에 합법적으로 사용될 수 있다고 분석은 말합니다. 계속해서 다음과 같이 덧붙입니다.
“그러나 언어 복잡성과 같은 전통적인 과학적 품질 신호는 과학적 작업의 양이 증가함에 따라 신뢰할 수 없는 지표가 되고 있습니다. AI 시스템이 발전함에 따라 연구 품질, 학술적 의사 소통 및 지적 노동의 본질에 대한 우리의 근본적인 가정이 도전을 받게 될 것입니다.”
AI 도구를 학술 연구에 합법적으로 사용할 수 있을까요?
간단한 대답은 예, 하지만 극도로 주의해야 합니다. AI의 언어 번역 및 데이터 분석 지원 능력은 실질적인 이점을 제공합니다. 문제는 AI가 비판적 사고 및 독창적인 연구의 지름길이 될 때 발생합니다. 도움과 학문적 부정직 사이의 경계가 점점 모호해지면서 과학계 내에서 윤리적 지침과 책임 있는 AI 사용을 다시 강조해야 합니다.
부허의 실패: AI 의존의 경고
ArXiv만의 문제가 아닙니다. 일반적으로 학문의 신뢰성에 대한 전반적인 문제입니다. 지난주 Nature에 발표된 놀라운 자폭 사례는 독일에서 활동하는 과학자 마르셀 부허의 AI 오용을 설명했습니다. 그는 ChatGPT를 사용하여 이메일, 과정 정보, 강의 및 시험을 생성했습니다. 그것만으로도 충분히 나빴지만, ChatGPT는 또한 학생들의 응답을 분석하는 데 도움을 주고 있었고 그의 교육의 대화형 부분에 통합되고 있었습니다. 그러던 어느 날, 부허는 자신이 “데이터 동의” 옵션이라고 부르는 것을 “일시적으로” 비활성화하려고 시도했고, ChatGPT가 앱에만 독점적으로 저장하고 있던 모든 정보, 즉 OpenAI의 서버에 있는 모든 정보를 갑자기 삭제하자, 그는 Nature 지면에 “2년간 신중하게 구조화된 학문적 작업이 사라졌다”고 불평했습니다. 편리함의 대가는 냉혹한 데이터로 지불되었습니다.
엄격함과 세심함이 기대되고 가정되는 바로 그 영역에서 AI로 유도된 광범위한 나태함이 드러나는 것은 절망감을 불러일으킵니다. ChatGPT가 처음 출시된 지 불과 몇 달 만에 출판물 수가 급증했을 때 문제가 있다는 것을 짐작할 수 있었지만, 이제 The Atlantic에서 지적하듯이, 우리는 그 문제의 실제 내용과 규모에 대한 세부 사항을 파악하기 시작했습니다. 부허와 같은 AI에 취한 개인들이 출판에 대한 불안감에 시달려 얼른 가짜 논문을 내놓는 정도가 아니라 산업 규모의 사기입니다. 한때 요새였던 학문적 작업의 무결성은 이제 밀물 때의 모래성과 같습니다.
AI의 부상이 과학 출판물의 양에 미친 영향은 무엇입니까?
숫자는 거짓말을 하지 않습니다. ChatGPT와 같은 접근 가능한 AI 도구가 등장한 이후 출판물이 눈에 띄게 급증했습니다. 이러한 급증이 반드시 더 많은 과학적 돌파구를 나타내는 것은 아닙니다. 대신, AI가 정확성이나 독창성에 관계없이 콘텐츠를 생성할 수 있는 용이성을 암시합니다. 이제 문제는 AI가 생성한 소음으로부터 진정한 기여를 가려내는 데 있으며, 과학적 작업을 평가하는 방식을 비판적으로 재평가해야 합니다.
암 연구의 난제: 산업 규모의 사기
의미를 생각해 보십시오. 암 연구에서 나쁜 행위자는 The Atlantic이 지적하듯이 “종양 세포와 존재하는 수천 개의 단백질 중 단 하나의 단백질 사이의 상호 작용”을 문서화한다고 주장하는 지루한 논문을 요구할 수 있습니다. 논문이 획기적이라고 주장하면 눈살을 찌푸리게 할 것이고, 이는 속임수가 더 눈에 띄기 쉽다는 것을 의미하지만, 가짜 암 실험의 가짜 결론이 시시하다면 그 슬롭(slop)은 믿을 만한 출판물에서조차 훨씬 더 쉽게 출판될 것입니다. AI가 생성한 겔 전기영동 블롭(blob) 이미지와 함께 제공되어 지루하지만 언뜻 보기에 추가적인 타당성을 더한다면 더욱 좋습니다.
과학적 풍경은 진실과 날조를 구별하는 것이 어지러운 운동이 되는 거울의 방과 같아지기 시작했습니다.
간단히 말해서, 과학에 슬롭이 밀려왔고, 레슨을 계획하는 바쁜 학자부터 동료 평가자와 ArXiv 조정자에 이르기까지 모든 사람이 덜 게을러져야 합니다. 그렇지 않으면 몇 안 되는 신뢰할 수 있는 정보원 중 하나였던 지식 저장소는 이미 감염되었을 가능성이 있는 질병에 압도될 것입니다. 이제 문제는 지식 추구가 AI 지원 가짜의 시대에 영원히 물들 것인지, 아니면 엄격함과 진실의 가치를 되찾을 수 있는지입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
