ChatGPT의 인상적인 기능에도 불구하고, 몇몇 대기업에서는 직원들이 ChatGPT를 사용하는 것을 금지했습니다.
2023년 5월, 삼성은 ChatGPT 및 기타 생성 AI 도구 사용을 금지했습니다. 그런 다음 2023년 6월, Commonwealth Bank of Australia가 Amazon, Apple, JPMorgan Chase & Co와 같은 회사와 함께 뒤를 따랐습니다. 일부 병원, 로펌 및 정부 기관도 직원들이 ChatGPT를 사용하는 것을 금지했습니다.
그렇다면, 왜 점점 더 많은 회사들이 ChatGPT를 금지하고 있을까요? 다섯 가지 주요 이유가 있습니다.
1. 데이터 유출
ChatGPT는 효과적으로 훈련하고 운영하기 위해 방대한 양의 데이터가 필요합니다. 챗봇은 인터넷에서 얻은 방대한 양의 데이터를 사용하여 훈련되었으며, 계속해서 훈련되고 있습니다.
OpenAI의 도움말 페이지에 따르면, 챗봇에 입력하는 기밀 고객 정보, 영업 비밀, 민감한 사업 정보 등 모든 데이터는 챗봇의 트레이너가 검토하게 되며, 트레이너는 해당 데이터를 사용하여 시스템을 개선할 수 있습니다.
많은 회사가 엄격한 데이터 보호 규정을 따릅니다. 그 결과, 외부 기관과 개인 데이터를 공유하는 데 신중한데, 이는 데이터 유출 위험을 증가시키기 때문입니다.
게다가 OpenAI는 완벽한 데이터 보호 및 기밀 보장을 제공하지 않습니다. 2023년 3월, OpenAI는 일부 사용자가 다른 활성 사용자의 기록에서 채팅 제목을 볼 수 있는 버그를 확인했습니다. 이 버그는 수정되었고 OpenAI는 버그 바운티 프로그램을 시작했지만, 이 회사는 사용자 데이터의 안전과 개인 정보 보호를 보장하지 않습니다.
많은 조직에서는 데이터 유출을 방지하기 위해 직원들의 ChatGPT 사용을 제한하기로 결정했습니다. 데이터 유출로 인해 기업 평판이 손상되고, 재정적 손실이 발생하며, 고객과 직원을 위험에 빠뜨릴 수 있습니다.
2. 사이버 보안 위험
ChatGPT가 실제로 사이버보안 위험에 취약한지는 불확실하지만, 조직 내에 배포할 경우 사이버 공격자가 악용할 수 있는 잠재적인 취약점이 발생할 가능성이 있습니다.
회사가 ChatGPT를 통합하고 챗봇의 보안 시스템에 취약점이 있는 경우 공격자는 취약점을 악용하여 맬웨어 코드를 삽입할 수 있습니다. 또한 ChatGPT가 인간과 유사한 응답을 생성하는 능력은 계정을 인수하거나 합법적인 기관을 사칭하여 회사 직원을 속여 민감한 정보를 공유하도록 할 수 있는 피싱 공격자에게 황금알입니다.
3. 개인화된 챗봇 생성
ChatGPT는 혁신적인 기능에도 불구하고 거짓되고 오해의 소지가 있는 정보를 생성할 수 있습니다. 그 결과, 많은 회사가 업무 목적으로 AI 챗봇을 만들었습니다. 예를 들어, Commonwealth Bank of Australia는 직원들에게 CommBank의 정보를 사용하여 답변을 제공하는 인공 지능(AI) 챗봇인 Gen.ai를 대신 사용하라고 요청했습니다.
삼성과 아마존과 같은 회사는 고급 자연어 모델을 개발하여 기업은 기존 필사본을 기반으로 개인화된 챗봇을 쉽게 만들고 배포할 수 있습니다. 이러한 사내 챗봇을 사용하면 데이터를 잘못 처리하여 발생하는 법적 및 평판적 결과를 방지할 수 있습니다.
4. 규제 부족
기업이 규제 프로토콜과 제재의 적용을 받는 산업에서 ChatGPT의 규제 지침 부족은 위험 신호입니다. ChatGPT 사용을 규제하는 정확한 규제 조건이 없다면 기업은 운영에 AI 챗봇을 사용할 때 심각한 법적 결과에 직면할 수 있습니다.
또한, 규제의 부족은 회사의 책임성과 투명성을 떨어뜨릴 수 있습니다. 대부분의 회사는 고객에게 AI 언어 모델의 의사 결정 프로세스와 보안 조치를 설명하는 데 혼란스러워할 수 있습니다.
기업들은 개인정보 보호법과 업계별 규정을 위반할 가능성을 우려해 ChatGPT를 제한하고 있습니다.
5. 직원의 무책임한 사용
많은 회사에서 일부 직원은 ChatGPT 응답에만 의존하여 콘텐츠를 생성하고 업무를 수행합니다. 이는 업무 환경에서 게으름을 조장하고 창의성과 혁신을 억제합니다.
AI에 의존하는 것은 비판적으로 생각하는 능력을 방해할 수 있습니다. 또한 ChatGPT가 종종 부정확하고 신뢰할 수 없는 데이터를 제공하기 때문에 회사의 신뢰성을 손상할 수도 있습니다.
ChatGPT는 강력한 도구이지만, 도메인별 전문 지식이 필요한 복잡한 질의를 처리하는 데 사용하면 회사의 운영과 효율성이 손상될 수 있습니다. 일부 직원은 AI 챗봇이 제공한 응답을 사실 확인하고 검증하는 것을 기억하지 못하고, 응답을 모든 사람에게 맞는 단일 솔루션으로 취급할 수 있습니다.
이러한 문제를 완화하기 위해 회사에서는 직원이 업무에 집중하고 사용자에게 오류 없는 솔루션을 제공할 수 있도록 챗봇 사용을 금지하고 있습니다.
ChatGPT 금지: 미리 대비하는 게 후회하는 것보다 낫다
ChatGPT를 금지하는 회사는 사이버 보안 위험, 직원 윤리 기준 및 규정 준수 문제를 나타냅니다. ChatGPT가 업계 솔루션을 제공하면서 이러한 문제를 완화할 수 없다는 것은 한계가 있고 더욱 발전해야 한다는 것을 증명합니다.
그 사이에 기업들은 잠재적인 데이터 침해와 챗봇과 관련된 신뢰할 수 없는 보안 및 규제 프로토콜을 피하기 위해 대체 챗봇을 사용하거나 직원이 ChatGPT를 사용하지 못하도록 제한하고 있습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
