생성 AI 기술이 발전함에 따라, 미국 정부에 미치는 영향은 뜨거운 이슈가 되고 있습니다. 트럼프 정부는 다양한 연방 기관에서 ChatGPT와 유사한 챗봇을 적극적으로 도입하여 프로세스를 간소화하고 노동 비용을 절감하는 것을 목표로 하고 있습니다. 그러나 이 AI 통합의 급증은 복잡한 함의를 가지고 있으며 여러 가지 우려를 불러일으킵니다.
데이터 & 소사이어티의 연구원인 메그 영은 이 기술에 대한 과대 광고를 강조합니다. 그녀는 “우리는 미친 과대 광고 주기에 있습니다.”라고 언급합니다. 정부 내에서 AI가 어떻게 작동하는지를 이해하는 것은 그 광범위한 결과를 파악하는 데 중요합니다.
1. 현재 정부에서 생성 AI는 어떻게 사용되고 있나요?
현재 정부 챗봇은 이메일 작성 및 보고서 요약과 같은 일상적인 업무를 지원하는 데 주로 사용됩니다. 그 범위는 미래에 확대될 수 있지만, 여전히 도전 과제가 남아 있습니다. 예를 들어, 일반 서비스 행정국은 복잡한 협상과 법적 프레임워크가 포함된 중요한 분야인 조달을 위해 생성 AI를 활용할 계획입니다.
조달 프로세스는 상품과 서비스 획득에 필수적이며, 신중한 법적 감독이 필요합니다. 영은 AI가 문서 검색에 도움을 줄 수 있지만, 계약 협상을 저해하는 오류를 도입할 수 있다고 경고합니다. 잘못 작성된 계약은 절약할 수 있는 법적 시간을 넘어 멍에가 될 수 있습니다.
2. 법적 맥락에서 AI 사용의 위험은 무엇인가요?
법적 추론은 생성 AI에게 상당한 도전 과제를 제공합니다. 2024년 연구에 따르면, 전용 법률 챗봇이 사실 오류를 범하는 비율이 17%에서 33%에 이르는 것으로 나타났습니다. 이러한 실수는 심각한 결과를 초래할 수 있습니다. 예를 들어, 변호사들은 ChatGPT가 제안한 허구의 사례를 인용하여 제재를 받은 적이 있으며, 이는 이러한 도구에 대한 신뢰가 심각한 위험을 초래할 수 있음을 강조합니다.
이러한 오류는 명확한 것부터 미묘한 것까지 다양합니다. 한 챗봇은 네브래스카 대법원이 미국 대법원의 결정을 뒤집었다고 잘못 주장하는 등 사법적 위계에 대한 근본적인 오해를 보여주었습니다. 또한 챗봇은 종종 법적 주장을 법원 결론과 혼동하여 잠재적으로 잘못된 법적 조언을 제공할 수 있습니다.
3. 법적 환경이 AI에게 그렇게 도전적인 이유는 무엇인가요?
끊임없이 변화하는 법적 환경은 생성 AI에게 복잡한 문제를 야기합니다. 법률과 법원 판결이 시대에 뒤떨어지거나 폐지될 수 있기 때문에 챗봇의 조언이 하루는 맞고 다음 날은 틀릴 수 있습니다. 예를 들어, 로 대 웨이드 사건을 여전히 낙태 권리에 대한 중요한 사례로 인용하는 것은 도브 대 잭슨 여성 건강 기구 사건에 의해 무효화된 것이기 때문에 적절하지 않습니다.
세법과 같은 법의 모호함은 또 다른 복잡성을 더하며, 개별 사건은 종종 특정 상황에 따라 달라집니다. 법학 교수인 리 오소프스키는 겉보기에 단순한 법적 질문조차도 불확실한 답변을 가질 수 있음을 상기시킵니다.
4. 생성 AI가 세금 질문에 도움이 될 수 있나요?
현재 IRS(국세청)는 공공 사용을 위한 생성 AI 챗봇이 없지만, 최근 보고서는 이 분야에 대한 추가 투자 필요성을 강조했습니다. AI는 행정 업무를 간소화할 수 있으며, 펜실베이니아의 파일럿 프로그램에서 참가자들이 이메일 작성과 같은 업무에서 하루 평균 95분을 절약한 사례가 이를 증명합니다.
5. 정부에서 AI를 구현할 때 고려해야 할 사항은 무엇인가요?
정부가 생성 AI의 사용을 강화함에 따라, 이러한 도구를 신중하게 접근하는 것이 중요합니다. 영은 현재 접근 방식이 세심함과 미래 예측이 부족하다고 주장합니다. 그녀는 “이 프로세스는 AI가 명시된 목적에 작동하는 것에 대해 그들이 신경 쓰지 않는 것을 보여줍니다.”라고 말합니다. 이는 AI 도구 개발에서 잘 정의된 워크플로우와 명확한 책임이 필요함을 강조합니다.
자동화된 정부 법률 가이드에 대한 연구는 이러한 챗봇이 인간의 전문성을 대체할 수 없음을 명시하는 면책 조항을 권장합니다. 챗봇이 세금 공제를 제안하는 경우, 이 정보는 구속력이 없음을 명확히 해야 합니다. 그뿐만 아니라 챗봇 개발 및 업데이트를 감독하기 위한 명확한 거버넌스 구조를 수립하는 것이 중요합니다.
그렇다면 생성 AI가 정부의 효율성을 향상시킬 수 있을까요? 그 잠재력은 존재하지만, 이 기술은 여전히 진화하고 있습니다. OpenAI와 Google과 같은 기업들이 정부와의 실행 가능한 사용 사례를 탐색하고 있으며, 이는 우리가 정부에서 AI의 실제 유용성을 평가하기 시작했음을 나타냅니다.
생성 AI가 정말로 정부의 기능을 변혁할 수 있을까요? 미래는 불확실하지만 한 가지는 분명합니다. 이 기술을 수용하는 것은 함정을 피하기 위해 신중한 탐색이 필요합니다.
기술이 우리 삶에 미치는 영향에 대한 더 많은 통찰력과 업데이트를 원하신다면, Moyens I/O에서 관련 콘텐츠를 계속 탐색해 보세요.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
