Facebook 소유주 Meta는 고유한 개성을 지닌 챗봇을 소셜 미디어 앱에 도입할 계획입니다. 출시는 빠르면 이번 9월에 이루어질 수 있으며 ChatGPT와 같은 경쟁사에 도전할 것이지만, 사용자의 개인 정보 보호에 심각한 영향을 미칠 수 있다는 우려가 있습니다.
이 아이디어는 다음에서 나옵니다. 파이낸셜 타임즈이 움직임은 Facebook 사용자와의 참여를 높이기 위한 시도라고 보도합니다. 새로운 도구는 새로운 검색 기능을 제공하거나 인간과 같은 토론을 통해 콘텐츠를 추천함으로써 이를 수행할 수 있습니다.
파이낸셜 타임즈가 인용한 소식통에 따르면, 챗봇은 “에이브러햄 링컨을 모방하는 챗봇과 서퍼 스타일로 여행 옵션에 대한 조언을 제공하는 챗봇”을 포함하여 다양한 페르소나를 맡을 것입니다.
채팅봇이 자신의 개성을 취하거나 유명인 스타일로 대화하는 것을 본 것은 이번이 처음은 아닙니다. 예를 들어 Character.ai 채팅봇은 유명인과 역사적 인물을 포함하여 수십 가지의 다른 개성을 취할 수 있습니다.
개인정보 보호 문제
Meta의 채팅봇이 보여줄 수 있는 약속에도 불구하고, 채팅봇이 수집할 수 있는 데이터의 양에 대한 우려도 제기되었습니다. 특히 Facebook이 사용자 개인 정보를 보호하는 데 있어 최악의 성적을 거두고 있다는 점을 고려할 때 더욱 그렇습니다.
AI 윤리 고문이자 연구자인 라비트 도탄은 파이낸셜 타임즈와의 인터뷰에서 “사용자가 챗봇과 상호작용하면 회사에 훨씬 더 많은 데이터가 노출되므로 회사는 해당 데이터로 원하는 대로 할 수 있다”고 말했다.
이는 광범위한 개인정보 침해 가능성을 높일 뿐만 아니라 사용자에 대한 “조작 및 넛지” 가능성도 허용한다고 Dotan은 덧붙였다.
큰 위험
ChatGPT와 Bing Chat과 같은 다른 챗봇은 “환각” 또는 잘못된 정보, 심지어 잘못된 정보를 공유하는 순간의 역사가 있습니다. 잘못된 정보와 편견으로 인해 발생할 수 있는 잠재적 피해는 경쟁 챗봇에 비해 거의 40억 명의 사용자를 보유한 Facebook에서 훨씬 더 높을 수 있습니다.
Meta의 과거 챗봇 시도는 부진했으며, 회사의 BlenderBot 2와 BlenderBot 3은 모두 빠르게 오해의 소지가 있는 콘텐츠와 선동적인 증오 표현으로 전락했습니다. 이는 사용자에게 Meta의 최신 노력에 대한 큰 희망을 주지 못할 수도 있습니다.
9월이 다가오면서, 페이스북이 이런 장애물을 극복할 수 있을지, 아니면 업계의 다른 곳에서 겪었던 것과 비슷한 환각에 시달리는 또 다른 출시가 있을지 오래지 않아 볼 수 있을 것입니다. 무슨 일이 일어나든 지켜보는 것은 흥미로울 것입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
