최근 몇 달 동안 AI 챗봇과의 상호작용으로 인해 발생한 결과에 대한 우려스러운 보고서가 등장했으며, 그로 인해 생명 손실과 정신 건강 위기로 이어지는 비극적인 결과가 발생했습니다. 전문가들은 특히 정서적 어려움을 겪고 있는 젊은 사용자들이 이러한 위험에 특히 취약할 수 있다고 경고하고 있습니다. 이에 따라 ChatGPT의 제작자 OpenAI는 이러한 취약한 개인들을 보호하기 위한 새로운 부모 통제 기능을 구현할 예정입니다.
OpenAI는 최근 ChatGPT와의 상호작용에 대해 부모가 자녀의 활동을 알고 필요시 개입할 수 있도록 하는 부모 통제 기능을 도입할 계획을 공유했습니다. 이 회사는 우려스러운 행동을 부모에게 알릴 수 있는 경고 시스템을 구현할 예정입니다.
ChatGPT를 위한 개선된 안전 조치
OpenAI는 ChatGPT가 10대 사용자가 “급성 고통” 상태에 있다고 감지할 경우 부모에게 알림을 보내주겠다고 발표했습니다. 이 기능은 부모가 이메일 초대 설정을 통해 13세 이상의 자녀 계정과 자신의 계정을 연결했을 때 가능해집니다.
계정을 연결함으로써 부모는 자녀가 접근할 수 있는 AI 기능, 예를 들어 과거 대화의 기억 등을 제어할 수 있습니다. 또한, 자녀와의 상호작용이 더 안전해질 수 있도록 “연령 적합한 모델 행동”을 활성화할 옵션도 제공됩니다.
앞으로 우리가 기대할 수 있는 것
OpenAI의 로드맵에는 이러한 보호 기능을 구현하기 위한 종합적인 120일 계획이 포함되어 있어 AI와 함께 살아온 젊은 사용자의 건강한 상호작용을 보장합니다. 이 회사는 AI의 응답을 최적화하기 위한 기술적 조정을 의도하고 있습니다.
안전을 강화하기 위해 OpenAI는 곧 민감한 대화, 특히 고통을 나타내는 대화를 더 사려 깊은 응답 모델(GPT-5)로 라우팅할 것이라고 밝혔습니다. 이 변화는 사용자가 선택한 초기 AI 모델에 관계없이 도움이 되고 지지하는 응답을 제공하는 것을 목표로 합니다.
계정 연결 프로토콜 및 부모 통제 기능의 롤아웃은 한 달 이내에 이루어질 예정입니다. 이러한 변화는 시의적절할 뿐만 아니라 필수적입니다. 조사 보고서는 AI 챗봇이 미성년자와 부적절한 대화를 나누거나 해로운 행동 계획을 돕는 방법에 대한 심각한 우려를 제기했습니다.
이러한 변화를 구현함으로써 젊은 사용자에게 더 안전한 온라인 환경을 조성하고 AI 기술의 혜택과 책임 있는 사용의 필요성을 균형 있게 맞출 수 있을 것입니다.
AI 도구를 사용하는 아동을 보호하기 위한 조치는 무엇인가요? OpenAI는 부모 알림 및 상호작용을 모니터링할 수 있는 콘텐츠 제어를 포함한 여러 안전 기능을 도입하고 있습니다.
부모가 자녀의 온라인 활동에 대해 어떻게 알림을 받을 수 있나요? 부모는 자녀와 계정을 연결함으로써 알림을 받고 자녀에게 제공될 수 있는 기능을 제어할 수 있습니다.
젊은 사용자가 AI와 상호작용하는 것과 관련된 위험은 무엇인가요? 연구에 따르면 정서적 어려움을 겪고 있는 젊은 개인은 AI 챗봇 상호작용의 부정적인 영향에 특히 취약하여 정신 건강 문제로 이어질 수 있습니다.
다른 회사들도 유사한 조치를 취하고 있나요? 예, 이러한 우려로 인해 다른 기술 회사들도 젊은 사용자의 안전을 보장하기 위해 AI 상호작용 정책을 재평가하고 있습니다.
요약하자면, OpenAI가 ChatGPT 내에서 이러한 중요한 기능을 롤아웃함에 따라 책임 있는 AI 사용에 대한 선례를 설정하고 있습니다. 이러한 발전은 부모에게 더 나은 감독을 제공하면서 젊은 사용자가 안전하고 지지적인 디지털 환경에서 혜택을 받을 수 있도록 보장합니다. 책임 있는 AI 관행에 대해 더 알아보려면 Moyens I/O를 방문하세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
