규제상의 AI 준수 문제에 부딪히지 않고 마케팅 업무에 AI 도구를 활용하는 방법을 알아보세요.
인공지능은 지금 마케팅에서 가장 화제가 되는 주제 중 하나입니다. 그럴 만한 이유가 있습니다. 이 비교적 새로운 기술의 가능성은 거의 무한해 보입니다. 특히, 새로운 콘텐츠를 만드는 생성형 AI는 지난 18개월 동안 엄청난 진전을 이루었습니다.
물론, 새로운 도구가 나올 때마다 소비자와 대중에게 미치는 영향에 대한 우려가 따른다. 마케터에게 AI 규정 준수 우려는 AI의 역량에 대한 거친 추측에 약간의 찬물을 끼얹을 수 있다.
이 게시물에서는 이미 존재하는 AI 관련 규제 프레임워크와 현재 개발 중인 프레임워크를 살펴보겠습니다. 규제 AI 준수 문제에 부딪히지 않고 마케팅 작업에서 AI 도구를 활용하는 데 필요한 정보를 제공해 드리겠습니다.
AI 컴플라이언스란 무엇입니까?
AI 규정 준수는 조직의 인공 지능 사용이 허용 가능하고 적절하도록 조치를 취하는 것을 의미합니다. 즉, 모든 관련 법률, 규정, 지침 및 모범 사례를 따르는 것을 의미합니다.
AI 규정 준수에서 고려해야 할 가장 일반적인 요소는 다음과 같습니다.
- 데이터 수집,
- 폭로,
- 차별과
- 은둔.
이 게시물의 후반부에서 볼 수 있듯이 AI 규정 준수는 아직 완전히 정의되지 않았습니다. 하지만 모든 수준의 정부에서 곧 법률과 규정이 나올 것입니다. 그동안 AI와 머신 러닝 모델을 사용하는 모든 조직은 기존 소비자 보호 및 개인정보 보호법을 준수해야 합니다.
마케팅에서의 일반적인 AI 규정 준수 위험
마케터의 절반 이상이 이미 일부 콘텐츠 생성에 AI를 사용하고 있습니다. AI는 개인화된 고객 경험을 만들고 데이터를 분석하는 데에도 인기가 있습니다.
출처: eMarketer
자체 내부 AI 도구를 만들든 다른 사람이 만든 AI 시스템에 의존하든, 이 새로운 기술은 디지털 마케팅 팀에 추가적인 위험을 초래할 수 있습니다. 알아야 할 핵심 문제는 다음과 같습니다.
편향된 언어 및 콘텐츠
AI는 훈련된 정보만큼만 좋습니다. 그리고 불행한 진실은 우리가 여러 면에서 편향된 세상에 살고 있다는 것입니다. AI를 방치하면 그러한 고정관념을 강화할 수 있습니다. 예를 들어, 부적절하거나 오래된 용어를 사용할 수 있습니다.
AI가 이미지 인식을 통합하면 상황은 더욱 까다로워질 수 있습니다. 얼굴 인식은 지속적으로 유색인종과 여성에게 편향된 것으로 나타났습니다. 가장 심각한 사례 중 하나는 Facebook의 AI가 흑인 남성의 비디오를 “영장류에 대한” 콘텐츠가 포함된 것으로 식별한 것입니다.
콘텐츠 생성이나 이미지 분류에 AI를 사용하고 계신가요? 그렇다면 콘텐츠가 공개되기 전에 이러한 실수를 바로잡기 위한 체크를 마련하는 것이 중요합니다.
편향된 광고 전달
Facebook은 2016년부터 편향된 광고 게재 문제로 지적을 받아왔습니다. 그 당시 문제는 광고주가 일자리나 주택과 같은 항목에 대한 광고에서 특정 인종 집단을 제외할 수 있다는 것이었습니다.
최근 페이스북의 AI 기반 알고리즘은 구인 및 주택 광고를 배포하는 방식에서 편향을 보이는 것으로 나타났습니다. 그들은 직무 역할에서 성 편향을 강화합니다. 그리고 그들은 주택 광고에서 소득과 계층에 대한 인종적 고정관념을 따릅니다. 이러한 편향된 배포는 광고주 자신이 아니라 AI 알고리즘에 의해 완전히 조정됩니다.
유럽 위원회가 통과시킨 새로운 AI법은 이런 종류의 알고리즘적 차별을 해결하는 것을 목표로 합니다. 구체적으로 사회적 행동이나 개인적 특성에 기반한 사회적 스코어링을 금지하는데, 이는 집단에 해로운 방식으로 이루어집니다. 이 법은 타깃을 잡은 구인 광고를 잠재적인 문제 영역으로 지적합니다.
잘못된 정보와 “환각”
AI가 만든 소셜 미디어 허위 정보의 가장 잘 알려진 최근 사례 두 가지는 모두 테일러 스위프트와 관련이 있습니다. 먼저 가수의 딥페이크 누드 이미지가 X에서 전 세계적으로 퍼진 후 플랫폼에서 삭제되었습니다. 스위프트를 표적으로 삼은 또 다른 딥페이크는 그녀가 전 미국 대통령 도널드 트럼프를 지지하는 모습을 보여준다고 주장했습니다.
AI는 또한 “환각”을 하는 것으로 알려져 있습니다. 즉, 허공에서 정보를 만들어낼 수 있습니다. 이는 존재하지 않는 판례법의 가짜 인용과 관련된 많은 법적 사건에서 발생했습니다.
출처: 스탠포드 대학 인간 중심 인공지능
마케터가 직접 딥페이크를 만들 가능성은 낮습니다. 또는 의도적으로 잘못된 정보를 배포할 가능성도 없습니다. 하지만 AI 도구가 콘텐츠에 대해 제공하는 “사실”을 다시 확인하는 것이 중요합니다. 그리고 다시 공유하기 전에 사진, 비디오 또는 기타 콘텐츠의 진실성을 확인하는 것이 중요합니다.
데이터 보안
디지털 마케터는 항상 고객 데이터를 보호할 책임이 있었습니다. 하지만 AI가 도입되면서 위험이 훨씬 더 커졌습니다. AI 도구를 사용하면 사기꾼이 모든 고객 데이터 포인트를 사기성 신원의 기반으로 쉽게 사용할 수 있습니다.
이는 고객에게서 실제로 얼마나 많은 데이터가 필요한지 생각하는 것이 그 어느 때보다 중요하다는 것을 의미합니다. 리드의 경우 더욱 그렇습니다. 데이터를 수집하고 저장할 때는 안전하고 규정을 준수하는 CRM 도구를 통해 관리해야 합니다.
기존 규정 준수 요구 사항에 대한 영향
AI가 기존 규정 준수에 어떤 영향을 미치는지 이해하는 것이 중요합니다. 특히 규제 산업에서 일하는 조직의 경우,
예를 들어, AI와 HIPAA 준수 프로그램은 모두 환자 개인 정보 보호에 대한 상당한 보호 조치를 요구합니다. 그러나 콘텐츠 생성을 위해 설계된 AI 도구는 소셜 채널에서 공유할 수 있는 내용의 한계를 이해하지 못할 수 있습니다. 이는 인간의 감독이 위험 관리 및 완화에 도움이 될 수 있는 또 다른 사례입니다.
AI와 GDPR(일반 데이터 보호 규정) 준수도 개인정보 보호 측면에서 중복됩니다. 그러나 유럽에서 운영되는 브랜드는 새로운 EU AI 법에 주의를 기울여야 합니다. 이는 AI와 유럽 연합 규정 준수에 대한 전체 그림을 이해하는 데 가장 중요한 문서입니다.
AI 도구를 사용하고 규정을 준수하는 방법
소셜 마케팅을 위한 AI 사용은 무섭지 않아도 됩니다. 사실, AI는 여러 면에서 소셜 마케터의 삶을 더 쉽게 만듭니다. 규정 준수 요구 사항을 위반하지 않고 AI를 사용하는 몇 가지 주요 방법은 다음과 같습니다.
AI 활용을 위한 회사 가이드라인 구현
당신은 이미 당신의 회사가 소셜 플랫폼에서 당신의 브랜드를 보호하기 위해 소셜 미디어 정책과 가이드라인이 필요하다는 것을 알고 있습니다. 또한 이제 당신은 조직 내에서 AI 사용을 통제하기 위해 AI와 규정 준수 가이드라인이 필요합니다.
고려해야 할 몇 가지 사항은 다음과 같습니다.
- 업무. 직원들은 업무의 어떤 부분에 AI를 활용할 수 있을까?
- 도구. 귀하의 조직에서는 내부 및 외부 사용을 위해 어떤 AI 도구를 승인했습니까?
- 절차. AI 도구를 사용하여 만든 콘텐츠의 인적 검토 프로세스는 무엇입니까? 최종 승인을 위해 규정 준수 책임자가 임명되었습니까?
- 독점정보. 직원들이 AI 도구와 프롬프트 형태로 공유할 수 있는 회사 정보는 얼마나 됩니까?
- 폭로. 고객에게 AI 어시스턴트와 상호작용하고 있다는 사실을 어떻게 공개할 것인가요? 또는 AI가 만든 콘텐츠와 상호 작용하고 있다는 사실을 어떻게 공개할 것인가요? EU 규정은 이미 최종 사용자가 AI(챗봇 포함)와 상호작용하는 시점을 알아야 한다고 요구하고 있습니다. 미국에서도 비슷한 규정이 시행되고 있습니다.
AI에 할당하는 작업 범위를 제한하세요
AI에 어떤 작업을 할당할지 생각할 때, 조직은 위험 대비 보상 비율을 고려해야 합니다. 예를 들어, AI는 콘텐츠 생성의 초기 단계에 기여하는 작업에 사용될 때 위험이 가장 낮습니다. 콘텐츠 생성을 완전히 인수하는 것과는 대조적입니다.
불필요한 높은 위험을 초래하지 않으면서 AI 도구의 사용을 줄이는 몇 가지 좋은 방법은 다음과 같습니다.
- 연구. AI는 놀라운 연구 보조원입니다. 여러 출처에서 정보를 수집하여 모든 것을 이해하기 쉬운 요약으로 요약합니다. 또한 Google에서 정보를 찾는 것보다 더 직관적인 방식으로 질문을 하고 결과를 다듬을 수 있습니다. 그렇긴 하지만 AI 환각의 경우 사실 확인을 하는 것이 중요하다는 것을 기억하세요.
- 주제에 대한 아이디어. 빈 페이지는 콘텐츠 제작자의 크립토나이트입니다. AI 주제 제안은 두뇌를 가동하고 콘텐츠 일정을 채우는 쉬운 방법입니다. Moyens I/O의 무료 AI 콘텐츠 아이디어 생성기와 블로그 아이디어 생성기를 확인하여 작가의 블록을 극복하세요.
- 다양한 용도에 맞춰 콘텐츠를 조정합니다. 이 블로그에서는 동일한 콘텐츠를 여러 소셜 채널에 교차 게시하는 것이 좋은 생각이 아닌 이유에 대해 자주 이야기했습니다. 그렇긴 하지만, 여러분은 분명히 여러 표면과 소셜 플랫폼에서 콘텐츠 자산을 활용하고 싶을 것입니다. AI는 블로그 게시물을 캡션으로, 이미지를 비디오로 바꾸는 데 도움을 줄 수 있습니다.
- 고객 서비스. 고객 서비스는 확실히 AI가 정말 빛을 발하는 분야입니다. 기본적인 챗봇이 몇 년 동안 등장했지만 AI는 더 복잡한 고객 질문에 답하고 맞춤형 쇼핑 추천을 제공하는 능력을 크게 향상시킵니다. 하지만 여기서 공개가 중요하다는 것을 기억하세요. 고객은 자신이 실제 인간이 아닌 AI와 상호 작용하고 있다는 것을 알아야 합니다.
기술 스택에 추가하기 전에 모든 새로운 AI 도구를 검토하세요.
더 많은 AI 도구가 출시됨에 따라 모든 도구를 비즈니스에 통합하고 싶은 유혹이 생길 것입니다. 하지만 마케터는 뛰어들기 전에 잠시 멈추어 평가하는 것이 중요합니다. 이는 얼리 어답터가 되는 것이 이점이 아닐 수 있는 한 가지 사례입니다.
AI 도구 사용자로서, 당신은 AI 규정 준수를 보장하기 위해 개발자에게 의존합니다. 개발자의 정책, 데이터 저장 또는 개인정보 보호 제어에 대해 전혀 불확실하다면 기다리세요. 당신의 데이터나 고객 데이터를 제공하기 전에 법무팀이 도구의 이용 약관을 검토하도록 하는 것이 좋습니다.
승인 워크플로에 AI 규정 준수 소프트웨어 추가
모든 종류의 공식 승인 워크플로를 설정하는 것은 AI의 도움을 받아(또는 받지 않고) 생성된 콘텐츠에 대한 규정 준수를 보장하기 위한 첫 번째 단계입니다. AI 규정 준수 자동화 소프트웨어를 추가하는 것은 훨씬 더 가치 있는 접근 방식입니다.
예를 들어, Proofpoint는 AI를 사용하여 귀사의 비즈니스에 대해 학습하고 고위 검토자의 감독 및 승인이 필요한 소셜 미디어 게시물의 수를 줄입니다. Proofpoint는 게시 전 또는 게시 후(또는 둘 다)에 귀하의 소셜 콘텐츠를 자동으로 스캔하여 소셜 미디어 정책을 준수하는지 확인합니다.
AI 컴플라이언스의 미래
AI 규제 준수는 곧 지금보다 훨씬 더 공식화될 것입니다. 명확한 법률이 나오고 있습니다. 그리고 앞으로 일어날 일에 대비하는 것이 중요합니다.
EU, 미국, 그리고 몇몇 개별 국가는 이미 AI 규정 준수를 규제하는 법률을 통과시켰거나 통과 과정에 있습니다. 유럽 위원회는 이미 AI 거버넌스와 규정 준수 개발을 감독하기 위해 AI 사무소를 만들었습니다.
— 유럽 위원회 (@EU_Commission) 2024년 2월 28일
그리고 미국은 AI 권리장전을 위한 틀을 마련했습니다.
출처: Whitehouse.gov
여전히 변화하는 부분이 많지만, 디지털 마케팅에서 AI 준수에 영향을 미칠 몇 가지 공통점이 나타났습니다.
첫째, 고급 AI 시스템을 개발하기 위한 새로운 국제 지침 원칙과 미국 상무부의 개발 지침은 AI가 사용될 때 공개 요구 사항을 명확히 할 것입니다. 여기에는 AI가 생성한 콘텐츠를 식별하기 위한 워터마킹이 포함됩니다.
둘째, 규정은 알고리즘과 AI가 소셜 광고를 타겟팅하는 데 어떻게 사용될 수 있는지에 영향을 미칠 수 있습니다. 테네시와 텍사스는 모두 소비자가 타겟팅 광고를 거부할 수 있도록 하는 법안을 통과시켰습니다.
구체적인 내용은 아직 불분명하지만, 전 세계 정부가 AI를 규제하고 그 사용이 시민에게 미치는 영향을 규제하려는 움직임은 매우 분명합니다. 처음부터 AI 사용에 있어 안전, 프라이버시, 공정성에 중점을 두는 브랜드와 기타 조직은 출현하는 AI 규제 준수 변화에 적응할 준비가 가장 잘 되어 있을 것입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
