오늘날의 디지털 세상에서 대형 언어 모델(LLM)은 우리의 일상 생활에서 필수 요소가 되었습니다. 그러나 이러한 모델들이 환경에 미치는 영향에 대해 궁금해 본 적이 있습니까? 최근 연구에 따르면 이러한 모델들이 우리의 온라인 경험을 향상시키는 반면, 과도한 에너지 소비를 통해 기후 변화에 상당히 기여하고 있을 수 있습니다.
이 연구에 따르면, 다양한 LLM은 서로 다른 수준의 탄소 배출을 발생시키며, 일부 모델은 덜 요구되는 모델보다 최대 50배 더 많은 CO2를 생성합니다. 놀랍게도, 가장 정확한 모델일수록 가장 많은 에너지 비용이 수반됩니다.
LLM의 에너지 소비 이해하기
LLM의 정확한 환경적 손실을 추정하는 것은 복잡할 수 있습니다. 예를 들어, 한 연구는 ChatGPT를 훈련하는 데 평균 미국인이 1년 동안 사용하는 것과 동등한 에너지를 소모했으며, 최대 30배 더 많은 에너지를 사용했다고 제안했습니다. 그러나 이러한 모델이 우리 질문에 응답할 때의 에너지 비용은 어떻게 될까요?
뮌헨 응용과학대학교의 연구 통찰
뮌헨 응용과학대학교의 연구자들은 7억에서 720억 개의 매개변수를 가진 14개의 LLM을 조사했습니다. 그들은 다양한 주제를 다루는 1,000개의 벤치마크 질문으로 이 모델들을 테스트했습니다.
에너지 사용에서의 토큰의 역할
LLM이 사용자의 쿼리를 처리할 때, 단어를 토큰으로 변환합니다. 일부 모델은 처리를 위한 에너지를 높이는 추가 “사고 토큰”을 포함하여 답변 생성을 위한 더 깊은 추론을 가능하게 합니다. 이 상당한 처리 과정은 높은 탄소 배출로 이어집니다.
토큰 소비의 비교 분석
연구에 따르면, 추론 모델은 평상시 질문당 평균 543.5개의 사고 토큰을 생산한 반면, 더 간결한 모델은 단지 37.7개의 토큰만 필요했습니다. 예를 들어, GPT-3.5는 간결한 모델로 분류되는 반면, GPT-4o는 추론 카테고리에 속합니다.
정확성과 연관된 탄소 배출
흥미롭게도, 정확도의 향상은 배출량 증가와 상관관계가 있습니다. 700억 매개변수를 가진 추론 모델 코기토(Cogito)는 인상적인 84.9%의 정확도를 달성했지만, 그의 탄소 배출량은 비슷한 크기의 다른 모델들보다 세 배 더 높았습니다.
정확성과 지속 가능성 간의 트레이드오프
연구자 막시밀리안 다우너(Maximilian Dauner)에 따르면, LLM 기술에서 정확성과 지속 가능성 간의 명확한 트레이드오프가 존재합니다. 500그램 미만의 CO2 동등량을 발생시키는 모델은 시험 질문에서 80% 이상의 정확도를 기록하지 못했습니다.
주제의 성격이 배출에 미치는 영향
연구는 또한 질문의 성격이 중요하다는 점을 나타냈습니다. 철학이나 추상 대수학과 같은 분야에서 심층 추론이 요구되는 질문은 더 간단한 주제보다 최대 6배 더 높은 배출량을 초래했습니다.
모든 배출이 동일하게 생성되는가?
배출량을 평가할 때 주의사항이 남아 있습니다; 이러한 수치는 지역 에너지 그리드와 특정 모델에 크게 의존합니다. 연구자들은 이 연구가 LLM의 신중한 활용을 촉구하기를 희망합니다.
AI를 사용할 때 배출량을 최소화하려면 어떻게 해야 할까요? 다우너에 따르면, 간결한 응답을 요청하고 고용량 모델은 필수 작업에만 사용하는 것으로 사용자는 자신의 탄소 발자국을 상당히 줄일 수 있습니다.
LLM 사용의 탄소 발자국은 얼마인가요? 정확한 수치를 pinpoint하는 것은 다를 수 있지만, 고용량 모델은 복잡한 추론을 수행하는 동안 상당한 CO2를 발생시킬 수 있습니다.
모든 LLM이 동일한 양의 CO2를 생성하나요? 아니요, 서로 다른 모델은 설계 및 처리 능력에 따라 다양한 배출량을 가집니다. 일반적으로 추론 모델은 더 많은 배출량을 생성합니다.
LLM 사용에서 정보에 기반한 선택을 하려면 어떻게 해야 하나요? 사용자는 성능과 에너지 효율성을 균형 있게 선택할 때 주의를 기울여야 하며, 가능할 경우 간결한 응답을 선택해야 합니다.
“사고 토큰”이란 무엇이며 왜 중요한가요? 사고 토큰은 일부 모델이 내부 추론을 개선하는 데 사용되지만, 에너지 소비 및 배출량 증가에 기여하기도 합니다.
AI를 우리의 생활에 통합함에 따라 그 환경적 영향을 이해하는 것이 중요합니다. 이 지식은 우리가 이러한 강력한 도구와 상호 작용하는 방법에 대해 책임 있는 선택을 가능하게 할 수 있습니다. 더 많은 통찰력을 원하시면 Moyens I/O의 관련 콘텐츠를 탐색해 보십시오.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
