나는 동료가 챗봇이 다시 쓴 내용을 클라이언트 이메일에 붙여넣고 “더 깔끔하다”고 말하는 것을 봤습니다. 다음 날, 서로 다른 세 사람이 작성한 초안이 마치 같은 파일의 여러 버전처럼 읽혔습니다. 만약 당신도 그것을 알아차렸다면, 당신은 혼자가 아닙니다.
저는 서던 캘리포니아 대학교의 새로운 연구 흐름을 주시해 왔는데, 그것은 기술적인 각주라기보다는 경고처럼 느껴집니다. Trends in Cognitive Sciences에 발표된 이 논문은 130개 이상의 연구를 검토하고, 대규모 언어 모델이 인간 표현의 다양성을 예측 가능한 패턴으로 압축하고 있다고 주장합니다. 저는 그것이 당신의 글쓰기, 당신의 팀, 그리고 당신이 영향을 미치는 문화에 어떤 의미가 있는지 설명하고 싶습니다.
내 편집자는 누군가가 ChatGPT를 통해 뉴스룸 메모를 돌린 후 그 특이함이 사라지는 것을 알아차렸습니다.
그 관찰은 USC 팀의 주요 발견과 일치합니다. LLM은 방대한 코퍼스로 훈련되었음에도 불구하고 반복되는 패턴을 선호하는 경향이 있습니다. 규모 면에서 이러한 모델은 체와 같아서 가장 일반적인 곡물은 통과시키고 언어를 다채롭게 만드는 특이한 알갱이는 가둡니다. 그 결과 더 균일한 문구, 예측 가능한 논쟁 구조, 그리고 산문에 있어서 예상치 못한 전환이 줄어듭니다.
AI 모델은 사람들을 비슷하게 생각하게 만드는가?
그렇습니다. 그리고 미묘한 방식으로 그렇습니다. ChatGPT 또는 Claude를 사용하여 단락을 정리할 때 단어만 편집하는 것이 아니라 아이디어를 구성하는 선호되는 방식을 빌리는 것입니다. 연구자들은 반복적인 노출이 사람들을 모델이 생성하는 동일한 논리적 습관으로 유도한다고 지적합니다. 그 유도는 단지 외형적인 것이 아닙니다. 실험에 따르면 모델 결과와 상호 작용한 후 사람들이 추론하는 방식에 변화가 나타납니다.
매주 브레인스토밍에서 Grok에 의존한 세 명의 동료가 동일한 5가지 아이디어를 가지고 돌아왔습니다.
그룹 창의성은 개인 창의성과 다르게 고통받습니다. USC 검토 결과, LLM을 사용하는 사람은 더 많은 원시 텍스트를 생성할 수 있지만, LLM을 함께 사용하는 그룹은 LLM 없이 브레인스토밍하는 그룹보다 뚜렷한 아이디어를 덜 생성합니다. 그룹이 LLM에 의존하면 모델은 새로운 하모니가 죽을 때까지 동일한 코러스만 연습하는 합창단이 됩니다.
LLM은 창의성에 어떤 영향을 미치는가?
LLM은 양을 늘리지만 분산을 줄입니다. 개별 사용자는 더 많은 출력을 빠르게 얻을 수 있지만, 출력은 훈련 데이터의 지배적인 패턴을 중심으로 통계적으로 집중됩니다. 팀의 경우, 그 집중은 조직 및 연구에서 최상의 창의적 결과를 산출하는 재료인 다양한 관점과 삶의 경험을 상쇄합니다.
나는 친구가 은유가 평범한 언어로 사라질 때까지 에세이를 수정하는 것을 봤습니다.
그것이 개인적인 비용입니다. 사람들은 종종 챗봇을 사용하여 어조를 다듬고 “거친 가장자리”를 제거합니다. 그러나 광택은 고유한 목소리를 침식할 수 있습니다. USC 저자들은 LLM이 통계적 규칙성을 포착하고 지배적인 언어와 이데올로기를 불균형적으로 반영한다고 지적합니다. Zhivar Sourati와 동료들은 모델이 특정 관점을 과도하게 대표할 때 그 결과가 그러한 관점으로 치우치고 인간이 그것을 내면화하기 시작한다고 경고합니다.
기업들은 이 한계를 인정합니다. OpenAI의 도움말 페이지에는 ChatGPT가 “서구적 관점으로 치우쳐져 있다”고 명시되어 있으며, xAI의 Grok은 리더십의 관점을 반영하도록 조정되었습니다. 그것들은 안전하게 무시할 수 있는 기술적 특이성이 아니라 문화적 효과가 있는 디자인 선택입니다.
내가 참석한 정책 브리핑에서는 합의를 특징으로, 다양성을 마찰로 취급했습니다.
설계와 규제가 중요합니다. USC 팀은 인센티브가 모델을 합의로, 다원주의로부터 멀어지게 할 수 있는 정책 환경을 지적합니다. 최근 미국의 지침과 업계의 압력은 모델이 표현의 다양성을 희생하면서도 인지된 안전과 순응도에 따라 판단될 것이라는 신호를 보냈습니다.
챗봇을 사용할 때 팀은 어떻게 아이디어 다양성을 보존할 수 있는가?
만약 당신이 뚜렷한 목소리를 보존하는 데 관심이 있다면, 의도적인 대응책이 필요합니다. 반대되는 견해를 요청하는 프롬프트를 사용하고, 모델로 편집하기 전에 인간 우선 초안을 요구하고, 프롬프트를 만드는 사람과 출력을 편집하는 사람을 교대로 합니다. 프롬프트 엔지니어링, Google Docs의 버전 관리, 협업 화이트보드와 같은 도구는 단일 모델 승인 라인으로 축소하는 대신 발산하는 스레드를 유지하는 데 도움이 될 수 있습니다.
저는 당신에게 도구를 삭제하라고 말하는 사람이 되고 싶지 않습니다. AI는 작업을 가속화하고 사실을 표면화할 수 있지만, 이러한 모델을 작성자가 아닌 편집자로 취급해야 합니다. 인간 사고의 혼란스럽고 가치 있는 마찰을 대체하는 것이 아니라 도달 범위를 확장하는 데 사용하십시오.
만약 당신이 문화적 다양성, 작은 은유, 아이디어를 끈끈하게 만드는 이상한 문장에 관심이 있다면, 당신은 매일 사용하는 모델을 누가 훈련시키고 있으며, 그 훈련에서 누구의 목소리가 빠져 있는지 물어야 합니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
