수술 시작 직후, 외과의사는 주저하며 현기증 나는 불확실성의 안개에 휩싸였습니다. 정밀도를 높이기 위해 고안된 AI 시스템이 중요한 기기의 위치를 잘못 보고하고 있었습니다. 생명을 구하도록 설계된 기술이 재앙으로 이어질 수 있다는 사실을 깨닫자 공포감이 엄습했습니다.
AI, 수술을 재편하지만 항상 더 나은 것은 아님
인공지능이 수술실에 침투하고 있으며, 그 결과는 실망스러울 뿐만 아니라 경악스럽습니다. 최근 로이터 통신 조사에 따르면 의료 분야에서 AI에 대한 의존도가 치료를 개선하는 대신 환자를 위험에 빠뜨릴 수 있습니다. 의료 개입에 혁명을 일으킬 것이라고 약속하는 바로 그 시스템이 실제로 합병증 발생 가능성을 높이고 있을 수 있습니다.
AI가 의료 환경에서 실패하면 어떻게 되나요?
이러한 폭로의 중심에는 Johnson & Johnson 계열사에서 만성 부비동염 치료를 위해 설계한 고급 안경인 TruDi 내비게이션 시스템이 있습니다. 처음에는 3년 동안 단 7건의 오작동 보고만 있을 정도로 성능이 비교적 안정적이었습니다. 그러나 2021년에 AI 개선 사항이 통합되자 상황은 악화되었습니다. FDA는 현재 100건이 넘는 오작동 통지와 AI 오류로 인한 것으로 보이는 최소 10건의 환자 피해 사례를 추적하고 있습니다.
한 번의 실수가 재앙으로 이어질 수 있습니다.
이러한 오작동과 관련된 부상은 치명적일 수 있습니다. 시스템에 의해 기기 위치에 대해 잘못된 정보를 받은 외과의사는 두개저를 뚫고 뇌척수액 누출을 일으키는 등 심각한 실수를 저질렀습니다. 이러한 심각한 실수로 인해 뇌졸중을 겪은 환자들로부터 이미 소송이 제기되었습니다. 피해를 입은 한 개인은 “AI가 도입되기 전 제품이 오히려 더 안전했습니다.”라고 외쳤습니다.
AI 기술은 정말로 신뢰할 수 있습니까?
이것은 고립된 사건이 아닙니다. 보고서에 따르면 FDA 승인을 받은 AI 지원 의료 기기가 1,357개이지만 심각한 문제로 인해 1년 이내에 무려 43%가 리콜되었습니다. 이러한 실패가 만연한 것은 이러한 AI 도구가 실제로 의료를 발전시키고 있는지, 아니면 기업이 환자 안전보다 이익에 더 집중하고 있는지에 대한 질문을 제기합니다.
서두른 혁신의 문화
이러한 장치 중 다수는 상장 기업에서 나오며, 철저한 테스트보다 속도를 우선시할 수 있습니다. TruDi의 경우 소송에서는 AI 기능이 안전성을 개선하지 않고 주로 마케팅 도구로 도입되었다고 주장합니다. 안전 기준이 낮아져 더 빠른 시장 출시가 가능해졌고 환자가 심각한 위험에 처해 있다는 주장이 제기되었습니다.
AI 시스템은 진단 정확도에 어떤 영향을 미칩니까?
수술실 밖에서도 AI 시스템은 신뢰할 수 있는 결과를 제공하지 못하고 있습니다. 태아 이미지를 분석하는 AI 애플리케이션인 Sonio Detect의 경우 구조물을 잘못 레이블링하여 산모와 태아 모두에게 해를 끼칠 수 있는 오해석을 초래한다는 보고가 있습니다. 이러한 부정확성은 Google의 의료 AI를 포함한 다양한 AI 플랫폼에서 일관되게 나타나며, 의도치 않게 “환각”된 신체 부위를 생성했습니다.
기술과 책임의 단절
이러한 명백한 문제에도 불구하고 현재 TruDi 시스템을 감독하는 Integra LifeSciences와 같은 회사는 우려를 일축합니다. 그들은 FDA 기록은 단순히 수술 중에 TruDi 장치가 존재했다는 것을 반영할 뿐이며 부상과의 결정적인 연관성은 없다고 주장합니다. 이러한 회피적인 입장은 우려스러운 단절을 강조합니다. 기술이 규제 감독보다 빠른 것 같습니다.
이러한 딜레마를 더욱 악화시키는 것은 AI 안전을 모니터링하는 FDA의 역량이 크게 감소했다는 것입니다. 정부 효율성 부서의 삭감으로 인해 이러한 최첨단 장치 평가에 전념하는 인력이 줄었습니다. 더 적은 수의 전문가가 키를 잡고 있는 상황에서 의료 부문은 제대로 규제되지 않은 기술의 물결에 대비되어 있습니까?
실리콘 밸리에서는 “빨리 움직이고 망가뜨리자”라는 주장이 통할 수 있지만 환자의 생명이 걸려 있을 때는 그 결과에 대한 책임은 누가 져야 할까요?
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
