의사의 목소리가 쩌렁쩌렁 울렸다. “이 결과는… 특이하네요.” 혼란스러운 검사 결과지를 훑어보는 동안 당황한 감정이 솟아올랐다. 아무 의미 없는 숫자들로 가득 차 있었다. 이제 인공지능(AI)을 믿고 동일한 보고서를 해석하게 했지만, 나중에 그 조언이 위험할 정도로 잘못되었다는 것을 알게 되었다고 상상해 보세요.
기술 업계가 AI 의료 통합에 총력을 기울이는 것처럼 보이지만 Google은 일부 AI 생성 건강 요약을 조용히 철회했습니다. 이번 조치는 AI가 제공한 정보 중 일부가 오해의 소지가 있다는 사실을 밝힌 The Guardian의 보고서에 따른 것입니다.
The Guardian은 Google이 “정상적인 간 혈액 검사 범위는 무엇인가” 및 “정상적인 간 기능 검사 범위는 무엇인가”라는 검색어에 대한 AI 생성 검색 요약을 제거했다고 보도했습니다. 이제 이러한 검색은 AI 개요 대신 기존 검색 결과에서 짧은 발췌문을 제공합니다.
The Guardian에 따르면 이러한 간 관련 검색에 대한 AI 개요는 “부정확한 건강 정보를 제공하고 사람들을 해칠 위험에 처하게 했습니다.” 요약은 “많은 숫자, 거의 없는 맥락, 환자의 국적, 성별, 인종 또는 연령에 대한 설명이 없었습니다.”라고 보도되었습니다.
The Guardian은 이러한 결과가 위험할 수 있다고 경고한 전문가를 인용했습니다. 예를 들어 간 질환이 있는 사람은 AI가 생성한 정상 정의에 의존하는 경우 후속 치료를 지연할 수 있습니다.
Google 대변인은 “당사는 특히 건강과 같은 주제에 대한 AI 개요의 품질에 상당한 투자를 하고 있으며 대다수가 정확한 정보를 제공합니다. 임상의로 구성된 내부 팀에서 공유된 내용을 검토한 결과 많은 경우 정보가 부정확하지 않았고 고품질 웹사이트에서 지원된다는 사실을 발견했습니다. AI 개요에 일부 컨텍스트가 누락된 경우 광범위한 개선을 위해 노력하고 있으며 정책에 따라 적절한 조치를 취합니다.”라고 밝혔습니다.
이러한 제거는 더 많은 사람들이 AI에서 건강에 대한 답을 찾으면서 이루어졌습니다. 업계는 이를 인지하고 있으며 대응하고 있습니다.
ChatGPT를 개발한 회사인 OpenAI는 약 8억 명의 정규 사용자의 4분의 1이 매주 의료 관련 프롬프트를 제출하고 있으며 매일 4천만 명 이상이 제출한다고 밝혔습니다.
며칠 후 OpenAI는 사용자의 의료 기록, 건강 앱 및 웨어러블 장치와 연결되는 건강 중심 경험인 ChatGPT Health를 출시했습니다. 곧이어 그들은 실험실 결과, 의사 방문 기록 및 약물과 같은 의료 기록을 추적하는 의료 스타트업 Torch 인수를 발표했습니다.
Anthropic도 경쟁에 참여하고 있습니다. 그들은 최근 의료 제공자, 보험사 및 환자가 Claude 챗봇을 의료 목적으로 사용할 수 있도록 하는 새로운 AI 도구 세트를 발표했습니다.
Anthropic은 해당 도구가 병원과 보험 회사의 사전 승인 요청 및 환자 커뮤니케이션과 같은 작업을 간소화할 수 있다고 말합니다. 환자는 Claude에게 실험실 결과 및 건강 기록에 대한 액세스 권한을 부여하여 일반 언어로 요약 및 설명을 생성할 수 있습니다.
AI의 의료 실수: 경종을 울리는 계기?
중요한 검사 결과를 해석하기 위해 AI 챗봇에 의존한다고 상상해 보세요. 병원과 보험 회사의 경우 Anthropic은 해당 도구가 사전 승인 요청 및 환자 커뮤니케이션과 같은 작업을 간소화하여 시간과 리소스를 절약하는 데 도움이 될 수 있다고 말합니다. 하지만 생명이 알고리즘에 달려야 할까요?
AI 건강 요약은 일반적으로 얼마나 정확합니까?
Google은 AI 개요의 “대다수”가 특히 건강 주제에 대해 정확한 정보를 제공한다고 주장합니다. 그러나 간 기능 검사 관련 사건은 치명적인 결함을 강조합니다. 대부분 정확하더라도 AI는 환자의 나이, 성별, 인종 또는 기존 질환과 같은 중요한 맥락을 놓칠 수 있습니다. AI가 지도라면 이러한 누락된 세부 정보는 지워진 중요한 랜드마크와 같아서 오도 가도 못하게 됩니다.
건강 정보의 AI 부정확성을 수정하기 위해 어떤 조치가 마련되어 있습니까?
Google은 플래그가 지정된 정보를 검토하는 임상의로 구성된 내부 팀이 있다고 말합니다. 또한 AI 개요에서 컨텍스트를 놓친 경우 “광범위한 개선을 위해 노력”하고 정책에 따라 조치를 취한다고 밝혔습니다. 하지만 솔직히 말해서 사후에 내부 검토에 의존하는 것은 자동차 사고 후 에어백을 설치하는 것과 같은 사후 대응 방식입니다.
AI가 의료 분야에서 발전함에 따라 작은 오류나 누락된 컨텍스트조차 환자에게 큰 결과를 초래할 수 있습니다.
통합 서두: 준비되었습니까?
OpenAI는 약 8억 명의 정규 사용자의 약 4분의 1이 매주 의료 관련 프롬프트를 제출하고 있으며 매일 4천만 명 이상이 제출한다고 밝혔습니다. OpenAI, Anthropic, 심지어 Google까지 의료 생태계에서 없어서는 안 될 파트너로 자리매김하려는 듯합니다. 하지만 이것이 진정한 혁신일까요, 아니면 영토 확보일까요?
AI를 건강 정보에 사용하는 데 잠재적인 위험은 무엇입니까?
위험은 상당합니다. 부정확한 정보, 놓친 컨텍스트, 적절한 치료를 받는 데 잠재적인 지연이 있습니다. 데이터 개인 정보 보호 문제도 있습니다. AI 챗봇과 의료 기록을 공유할 때 누가 의료 기록에 액세스할 수 있습니까? 해당 데이터는 어떻게 사용되고 있습니까? 가장 민감한 건강 정보를 보호하기 위해 어떤 보안 조치가 마련되어 있습니까?
AI가 의료 분야에서 발전함에 따라 작은 오류나 누락된 컨텍스트조차 환자에게 심각한 결과를 초래할 수 있습니다. 2026년은 AI 회사가 귀하의 건강을 처리하려는 해입니다. 이러한 회사가 그 책임을 질 준비가 되었는지는 아직 알 수 없습니다. 하지만 환자는 그들을 신뢰할 준비가 되었을까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
