어린 사용자들의 온라인 안전에 대한 우려가 있다면, OpenAI의 최근 발표가 매우 중요합니다. 화요일, 이 회사는 ChatGPT 내에 연령 인증 시스템을 도입할 계획을 공개했습니다. 이 이니셔티브는 미성년 사용자가 더 나이에 적합한 경험을 할 수 있도록 하기 위해 고안된 것으로, AI 챗봇과의 상호작용에 대한 법정의 엄격한 검토에 대한 대응입니다.
OpenAI의 새로운 시스템은 사용자가 ChatGPT와 상호작용하는 방식을 평가하기 위해 연령 예측 방법을 사용할 것입니다. 알고리즘이 사용자가 18세 미만일 가능성이 있거나 그들의 연령을 명확히 판단할 수 없다면, 그들은 젊은 관중을 위해 맞춤화된 챗봇 버전으로 안내될 것입니다. 18세 이상이지만 이 필터링된 경험에 속하게 되는 사용자는 ChatGPT의 전체 버전에 접근하기 위해 신분증을 제공해야 합니다.
OpenAI에 따르면, 이 연령 제한 버전의 챗봇은 “그래픽 성적 콘텐츠”에 대한 노출을 최소화하고, 유혹적 또는 성적으로 노골적인 대화에 참여하지 않을 것입니다. 또한, 18세 미만 사용자가 고통이나 자살 생각을 표현할 경우, 시스템은 사용자의 부모에게 알리려고 시도할 수 있으며, 위험이 imminent할 경우 상황을 법 집행 기관으로 확대할 수 있습니다. OpenAI는 이러한 시나리오에서 안전을 사생활보다 우선시한다고 강조합니다.
OpenAI는 두 가지 사용자 경험 간의 차이를 설명하기 위해 몇 가지 예를 제공했습니다:
사용자가 유혹적인 상호작용을 요청하면, 성인 사용자는 이를 요청할 경우 그에 응답하겠지만, 모델은 젊은 사용자에게 이러한 대화를 억제하는 기본 설정으로 작동할 것입니다. 마찬가지로, 챗봇은 젊은 사용자에게는 자살에 대한 세부 사항을 제공하지 않지만, 허구적인 이야기 목적을 위해 도움을 요청하는 성인에게는 안내할 것입니다.
이 업데이트는 ChatGPT와의 대화 후 자살한 16세 소년의 부모가 OpenAI를 상대로 제기한 비극적인 소송과 관련이 있습니다. 이 사건은 취약한 사용자를 보호하기 위한 더 엄격한 조치의 필요성을 강조했습니다. 연구에 따르면 AI 챗봇이 때때로 자해 또는 자살에 대한 대화를 우연히 촉진할 수 있어, 연방거래위원회(Federal Trade Commission)와 같은 규제 기관이 아동 및 청소년에게 미치는 영향에 대한 최근 관심을 나타냈습니다.
OpenAI는 특히 텍사스 법원의 판결 이후 성인 인증을 요구하는 성인 웹사이트를 위한 법안의 합헌성을 확인한 뒤 연령 인증 프로토콜을 구현하는 기업들의 넓은 흐름에 합류하고 있습니다. 영국에서도 이러한 조치가 점점 더 강화되고 있습니다. 일부 플랫폼은 사용자가 연령을 증명하기 위해 ID를 업로드하도록 요청하지만, 유튜브와 같은 다른 플랫폼은 OpenAI의 접근 방식과 유사한 예측 방법을 선택하고 있습니다. 그러나 이러한 방법은 정확성과 얼굴 인식 기술의 잠재적으로 침해적인 특성에 대한 우려로 비판을 받아왔습니다.
온라인 플랫폼에서의 연령 인증이란 무엇인가요?
연령 인증은 온라인 플랫폼이 사용자들의 연령을 확인하기 위해 사용하는 방법을 말하며, 미성년자가 적절한 콘텐츠에 접근할 수 있도록 보장합니다. 여기에는 ID 업로드 또는 연령 예측 알고리즘이 포함될 수 있습니다.
ChatGPT에서 연령 예측은 어떻게 작동하나요?
연령 예측 시스템은 사용자 상호작용 및 행동을 분석하여 그들의 나이를 추정하고, 18세 이하로 보이는 개인을 연령에 적합한 콘텐츠로 리디렉션합니다.
왜 기업들이 지금 연령 안전 기능에 집중하고 있나요?
비극적인 사건 후 온라인에서 미성년자의 복지에 대한 우려가 커져, 기업들이 안전 조치를 강화하고 규제 조사에 대응하기 위해 노력하고 있습니다.
연령 인증 실패로 인해 어떤 결과가 발생할 수 있나요?
사용자의 연령을 적절하게 인증하지 못하면, 미성년자가 부적절한 콘텐츠에 노출될 수 있으며, 유해한 상황이 발생할 경우 기업에 법적 책임이 발생할 수 있습니다.
AI가 온라인 상호작용에 미치는 영향에 관심이 있다면, 지금이 정보를 유지하기에 좋은 시점입니다. 이러한 발전을 이해하는 것은 복잡한 디지털 환경을 안전하게 탐색하는 데 도움이 될 수 있습니다. 더 많은 통찰력을 원하신다면 [Moyens I/O](https://www.moyens.net)를 자유롭게 탐색해 보세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
