Openai는 플래그십 AI 서비스 인 Chatgpt가 악의적 인 사용을위한 것이 아니라는 것을 분명히했습니다.
이 회사는 더 인기가 있기 때문에 플랫폼을 사용하여 나쁜 배우의 트렌드를 관찰했다는 보고서를 발표했습니다. OpenAi는“다양한 배포 플랫폼에서 출판을위한 컨텐츠 생성에 대한 코드를 디버깅하는 것”과 같은 무단 방식으로 ChatGpt를 사용한다는 의혹에 대해 수십 개의 계정을 제거했다고 지적했다.
추천 동영상
이 회사는 또한 최근 4 억 주간의 활성 사용자 이정표에 도달했다고 발표했습니다. 이 회사는 더 많은 기업과 개발자가 도구를 활용함에 따라 3 개월 이내에 USShipsion이 1 억 명 이상 증가했다고 자세히 설명했습니다. 그러나 Chatgpt는 또한 전 세계적으로 액세스 할 수있는 무료 서비스입니다. 그 기능의 도덕적, 윤리적 측면이 오랫동안 의문의 여지가 있었기 때문에, Openai는 플랫폼에 대한 동기가있는 단체가 있다는 사실에 대해 논의해야했습니다.
“OpenAi의 정책은 사기 또는 사기를위한 도구의 생산량 사용을 엄격히 금지합니다. 기만적인 고용 체계에 대한 조사를 통해 우리는 수십 개의 계정을 확인하고 금지했습니다.”라고이 회사는 보고서에서 말했습니다.
보고서에서 Openai는 Chatgpt에서 일어나는 사악한 행동에 도전해야한다고 논의했습니다. 이 회사는 악의적 인 의도를 위해 도구를 사용하는 것으로 밝혀진 계정을 금지함으로써 발견되고 조치를 취한 여러 사례 연구를 강조했습니다.
한 예로, OpenAi는 미국에 대한 비난적인 뉴스 기사를 쓴 계정을 자세히 설명했으며, 뉴스 소스는 중국 출판물 Byline의 모습으로 라틴 아메리카에 게시됩니다.
북한에 현지화 된 또 다른 사례는 믿기 어려운 구직자를위한 이력서 및 직업 프로필을 생성하는 것으로 밝혀졌습니다. OpenAI에 따르면이 계정은 서부 회사의 일자리에 신청하는 데 사용되었을 수 있습니다.
또 다른 연구는 캄보디아에서 비롯된 것으로 여겨지는 계정이 번역을 위해 Chatgpt를 사용하고 X, Facebook 및 Instagram을 포함한 여러 소셜 미디어 플랫폼에 침투하는“로맨스 사기꾼”네트워크에서 의견을 생성하기 위해 유래 한 것으로 여겨졌다.
Openai는 Chatgpt에서 발생하는 행동에 의해 부주의하게 영향을받을 수있는 Meta와 같은 업계 동시대 인들과 그 결과를 공유했음을 확인했습니다.
진행중인 문제
OpenAi가 AI 플랫폼에서 나쁜 배우들에게 도전하려는 노력을 자세히 설명한 것은 이번이 처음이 아닙니다. 2025 년 10 월, 회사는 보고서를 발표했습니다 20 개의 사이버 공격을 강조합니다 이란과 중국의 국가가 후원하는 해커가 이끄는 사건을 포함하여 방해가되었습니다.
사이버 보안 전문가들은 맬웨어 개발 및 기타 악성 코드와 같은 사악한 목적으로 Chatgpt를 사용하여 나쁜 행위자를 오랫동안 관찰 해 왔습니다. 이러한 결과는 도구가 여전히 시장에 신선한 2025 년 초부터 진행되었습니다. OpenAI가 먼저 높은 수요를 지원하기 위해 구독 계층 도입을 고려할 때입니다.
이러한 사악한 작업은 회사의 API를 사용하여 악성 코드를 생성 할 수있는 Chatgpt 대안을 만드는 나쁜 행위자를 수반했습니다. 그러나 White Hat 전문가는 또한 연구 관점에서 AI 생성 맬웨어를 연구하여 챗봇이 더 작고 덜 감지 할 수없는 조각으로 사악한 코드를 생성 할 수있는 허점을 발견했습니다.
이 IT와 사이버 보안 전문가들은 2025 년 2 월 Chatgpt의 안전에 대해 설문 조사를 받았으며, 많은 사람들 이이 도구가 한 해 안에 성공적인 사이버 공격에 책임이있을 것이라고 믿었습니다. 2025 년 3 월 까지이 회사는 첫 번째 데이터 위반을 경험했으며, 이는 정기적으로 발생할 것입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
