챗봇이 우리의 일상적인 인식 아래 잠복해 있는 집단적인 편견을 폭로하는 세상을 상상할 수 있나요? 옥스퍼드 대학과 켄터키 대학의 연구자들은 ChatGPT의 장벽을 뚫고 불편한 진실을 밝혀냈습니다. AI에 따르면 미시시피주는 미국에서 가장 게으른 주로 두드러집니다.
충격적으로 들리겠지만, 워싱턴 포스트는 이러한 사실이 챗봇에 2천만 개 이상의 질문을 던진 야심찬 연구에서 비롯되었다고 보도합니다. 그 정도 수준의 질문을 상상해 보세요! 연구자들은 AI의 훈련 데이터에 조용히 내장되어 뿌리 뽑기 어려운 고정관념을 부추기는 편견을 발견했습니다. 다른 주가 궁금하신가요? 켄터키주도 별로 나아 보이지 않아, 소문난 게으른 주에서 어떻게 그렇게 재치 있는 사상가가 나올 수 있는지 궁금해집니다.
미시시피주가 두드러지는 이유는 무엇일까요?
ChatGPT가 어떻게 그렇게 대담한 결론에 도달했는지 궁금하실 겁니다. AI는 논쟁의 여지가 있는 주제를 피하도록 설계되었지만, 여전히 편견으로 가득 찬 수많은 인간의 이야기를 처리합니다. “어디에 사람들이 더 똑똑한가?”와 같은 구조화된 쿼리를 통해 연구자들은 ChatGPT가 다양한 지역과 그 지역의 고정관념을 어떻게 인식하는지 밝혔습니다. 놀랍게도 데이터는 미시시피주가 다른 남부 주와 함께 순위에 올랐으며, 많은 사람들이 문제가 있다고 생각하는 이야기를 영속화하고 있음을 시사했습니다.
이러한 아이디어는 어디에서 오는 것일까요?
이 편견의 기원을 파악하기 위해 워싱턴 포스트의 2015년 기사로 거슬러 올라갈 수 있습니다. 그 기사는 “카우치 포테이토 지수“를 발표했습니다. 이 분석에서는 TV 시청 및 패스트푸드 보급률과 같은 지표를 기준으로 남부 주를 게으르다고 분류했습니다. 그러나 이러한 특징은 종종 경제적 어려움과 관련이 있으며, 성격상의 결함과는 관련이 없으므로 이러한 고정관념의 타당성에 의문을 제기하게 됩니다.
가난한 공동체가 게으르다고 여겨지는 이유는 무엇일까요?
많은 저소득 가구는 실제로 여러 개의 직업을 갖고 있으며, 저글링처럼 더 길고 불규칙한 시간을 견뎌냅니다. 경제 정책 연구소의 데이터는 이를 뒷받침하며, 빈곤이 게으름과 동일시되지 않고 오히려 고정관념이 풀처럼 붙어 있음을 시사할 수 있습니다. 이 역설은 ChatGPT뿐만 아니라 더 광범위한 사회적 관점에서 사회경제적 지위와 인종을 둘러싼 편견에 대한 중요한 질문을 제기합니다.
연구자들이 밝혀낸 다른 편견은 무엇일까요?
이 탐구를 계속하면서 편견이 미국 국경을 넘어 확장된다는 점은 실망스럽습니다. 연구자들은 대부분의 아프리카 및 아시아 국가가 문화적 창의성 측면에서 낮은 순위를 기록했을 뿐만 아니라 “가장 똑똑한 국가” 목록에 서구가 눈에 띄게 포함되었다는 사실을 발견했습니다. 부유한 도시는 종종 “가장 아름다운” 사람들의 목록에서 상위를 차지했고, 다양한 공동체는 하위권에 머물렀습니다. 이러한 차별 패턴은 사회적 가치가 기술을 뒷받침하는 알고리즘에 깊이 뿌리내리고 있음을 시사합니다.
피자 선호도는 어떨까요?
약간 가벼운 주제로 전환하면 ChatGPT는 요리 선호도에서도 편견을 드러냈습니다. 뉴욕, 시카고, 버펄로를 피자 명소로 지목했지만, 엘파소와 어바인과 같은 도시는 뒤쳐졌습니다. 파인애플을 피자에 올리는 것에 대한 논쟁에 대해 어떻게 생각하시나요? 우리의 사랑하는 AI조차도 한쪽 편을 들기를 주저하는 것 같습니다!
이러한 깨달음은 우리를 씁쓸한 질문과 씨름하게 만듭니다. 우리의 “진실 기계”가 계급적, 인종적 고정관념을 영속화할 때, 우리는 서로에 대한 이해를 묶는 이러한 사슬에서 어떻게 벗어날 수 있을까요? 인간과 인공지능 모두의 인식에 대한 함의는 심오하며 우리의 관심을 요구합니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
