정신 건강 지원의 환경이 빠르게 변화하고 있으며, 이에 따라 치료 환경에서 인공지능(AI)의 사용에 대한 규제의 긴급한 필요성이 대두되고 있습니다. 최근 일리노이 주지사 JB 프리츠커는 AI가 치료사나 상담사로 기능하는 것을 금지하고, 그 역할을 행정 및 지원 업무로 한정하는 획기적인 법안을 서명했습니다. 이는 의료 분야에서 AI 사용이 증가함에 따라 환자의 안전성을 확보하는 중요한 순간입니다.
주와 연방 기관들이 이러한 변화에 대처하는 가운데, 심리 자원에 대한 웰빙 및 감독 법안은 AI의 한계를 분명히 다루고 있습니다. 새로운 법은 면허 있는 전문가의 감독 없이는 AI가 사람 혹은 AI를 통해 제공하는 어떤 치료 서비스도 허용하지 않음으로써 환자를 보호합니다. 특히, AI는 독립적으로 치료 결정을 내리거나, 면허 있는 제공자의 승인 없이 치료 계획을 작성하거나, 감정이나 정신 상태를 해석하는 것을 명백히 금지당하고 있습니다.
이것이 AI 플랫폼에 의미하는 바는 무엇일까요? AI는 예약 일정 관리, 청구 처리, 치료 노트 유지 같은 행정 업무를 계속 지원할 수 있지만, 남용 가능성은 여전히 우려됩니다. 이 법을 위반하는 경우 최대 10,000달러의 벌금에 처해질 수 있습니다.
일리노이 재정 및 전문 규제 부서의 마리오 트레토 주니어는 최근 보도자료를 통해 “일리노이 주민들은 진정한 자격을 갖춘 전문가로부터 양질의 의료 서비스를 받을 자격이 있으며, 인터넷의 모든 구석에서 정보를 수집하여 환자에게 해를 끼치는 응답을 생성하는 컴퓨터 프로그램으로부터는 받을 수 없다”고 강조했습니다.
AI 규제에 대한 다른 주들의 움직임
일리노이는 이 노력에 혼자가 아닙니다. 다른 주들도 정신 건강 분야에서 AI 사용을 규제하기 위해 나서고 있습니다. 예를 들어:
- 6월, 네바다주에서는 AI가 면허 있는 전문가가 수행하는 치료 또는 행동 건강 서비스를 제공하는 것을 금지했습니다. 특히 공립학교에서 말입니다.
- 유타주는 정신 건강 챗봇이 사용자에게 자신이 인간이 아님을 알리도록 요구하는 규제를 시행했습니다. 이 요구는 최초 사용 시, 7일간 비활동 후, 혹은 사용자가 요청할 때 시행됩니다.
- 한편, 뉴욕주는 2025년 11월 5일부터 AI 동반자가 자살 생각을 표현하는 사람을 정신 건강 위기 핫라인으로 안내해야 하는 법안을 시행할 예정입니다.
이러한 이니셔티브는 AI가 치료사로 가장하는 것에서 발생할 수 있는 잠재적 위험에 대한 미국 심리학회(APA)의 우려에 대한 더 폭넓은 응답의 일환입니다. APA에서 발표한 블로그 포스트는 부모로부터 제기된 챗봇 관련 두 건의 소송을 포함한 우려스러운 사건들을 강조했습니다. 특히 한 사건에서는 한 소년이 이 앱을 광범위하게 사용한 후 자살했다는 비극적인 일이 발생했습니다.
정신 건강에서 AI에 대해 알아야 할 사항
소비자로서 이 법안이 당신에게 어떤 의미가 있는지 궁금할 수 있습니다:
AI가 미래에 정신 건강 지원을 제공할 수 있을까요?
현재 법은 AI의 역할을 행정 지원으로 제한하고 있지만, 향후 발전이 규제 지침을 따를 경우 더 통합된 용도를 탐색할 가능성도 있습니다.
정신 건강 지원에 관련된 다른 기술이 있을까요?
예, 많은 앱과 온라인 서비스들이 정신 건강 지원을 제공하려 하고 있지만, 사용자 안전을 보장하기 위해 동일한 규제를 따라야 합니다.
AI 규제에 대한 새로운 정보를 어떻게 얻을 수 있을까요?
신뢰할 수 있는 뉴스 소스와 정신 건강 관련 조직을 팔로우하면 정신 건강 치료에 영향을 미치는 새로운 법과 기술에 대한 정보를 얻을 수 있습니다.
AI가 다양한 분야, 특히 정신 건강에 확산되면서, 일리노이의 새로운 법안은 환자의 복지를 보호하기 위한 중요한 진전을 이루었습니다. 이는 치료에서 인간 상호 작용의 필요성을 강화하면서 동시에 기술의 한계를 우리에게 상기시킵니다.
상황이 발전하는 동안 참여하고 정보를 유지하며, 기술과 정신 건강의 교차점에 대해 Moyens I/O와 같은 플랫폼에서 더 탐색해 보세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
