GPT-4(ChatGPT Plus를 구동하는 대규모 언어 모델(LLM))는 곧 온라인 관리자로서 새로운 역할을 맡아서 햇빛을 보지 말아야 할 악의적인 콘텐츠에 대해 포럼과 소셜 네트워크를 감시할 수 있습니다. 새로운 블로그 게시물 ChatGPT 개발사 OpenAI는 이것이 “디지털 플랫폼의 미래에 대한 보다 긍정적인 비전”을 제공할 수 있다고 말합니다.
OpenAI는 인간 감독자 대신 인공 지능(AI)을 채용함으로써 GPT-4가 “정책 변경에 대한 훨씬 더 빠른 반복을 시행하여 주기를 몇 달에서 몇 시간으로 단축할 수 있다”고 말합니다. 또한 “GPT-4는 긴 콘텐츠 정책 문서의 규칙과 뉘앙스를 해석하고 정책 업데이트에 즉시 적응하여 보다 일관된 라벨링을 제공할 수 있다”고 OpenAI는 주장합니다.
예를 들어, 블로그 게시물은 조정 팀이 콘텐츠에 라벨을 지정하여 해당 플랫폼 규칙 내에 있는지 없는지 설명할 수 있다고 설명합니다. 그런 다음 GPT-4는 동일한 데이터 세트를 가져와서 답을 미리 알지 못한 채 자체 라벨을 지정할 수 있습니다.
그런 다음 관리자는 두 세트의 라벨을 비교하고 불일치 사항을 사용하여 혼란을 줄이고 규칙에 명확성을 추가할 수 있습니다. 즉, GPT-4는 일상적인 사용자 역할을 하여 규칙이 합리적인지 여부를 측정할 수 있습니다.
인적 피해
현재 다양한 웹사이트의 콘텐츠 검열은 인간이 수행하는데, 이로 인해 사람들은 정기적으로 불법적, 폭력적 또는 기타 유해한 콘텐츠에 노출됩니다. 우리는 콘텐츠 검열이 사람들에게 미칠 수 있는 끔찍한 피해를 반복해서 보았는데, Facebook은 직업의 트라우마로 인해 PTSD를 겪은 검열자에게 5,200만 달러를 지불했습니다.
인간 관리자의 부담을 줄이는 것은 그들의 근무 조건을 개선하는 데 도움이 될 수 있으며, GPT-4와 같은 AI는 인간이 문제가 있는 콘텐츠를 처리할 때 느끼는 정신적 스트레스에 면역이 있으므로 번아웃이나 PTSD를 걱정하지 않고 배치될 수 있습니다.
그러나 이런 방식으로 AI를 사용하면 일자리가 줄어들지 않을까 하는 의문이 제기됩니다. 콘텐츠 검토는 항상 즐거운 일은 아니지만 그래도 일이며, GPT-4가 이 분야에서 인간을 대신하게 되면 전직 콘텐츠 검토자가 다른 역할로 재배치되는 대신 단순히 해고될 것이라는 우려가 있을 것입니다.
OpenAI는 블로그 게시물에서 이 가능성을 언급하지 않으며, 이는 실제로 콘텐츠 플랫폼이 결정해야 할 사항입니다. 하지만 대기업이 비용 절감을 위해 AI를 도입하고, 그 결과에 대한 우려는 거의 없을 것이라는 우려를 가라앉히는 데는 별 도움이 되지 않을 수도 있습니다.
그래도 AI가 매일 수십억 명의 사람들이 사용하는 웹사이트의 콘텐츠를 조정하는 과로하고 과소평가받는 팀이 겪는 정신적 황폐함을 줄이거나 없앨 수 있다면, 이 모든 것에는 좋은 점이 있을 수 있습니다. 그것이 똑같이 파괴적인 중복으로 완화될지는 아직 알 수 없습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
