변호사, AI 생성 판례 인용으로 기록적인 벌금 부과

사라져가는 사건 목록을 빠르게 검색했을 때, 마치 사막의 신기루처럼 사라지는 인용문들을 보았던 순간이 기억납니다. 전체 주장이 종이 유령에 달려 있을 때 바닥이 흔들리는 것을 느낍니다. 오리건 항소 법원은 그 신기루가 비가 될지 기다리지 않았습니다.

사무직원의 빨간 펜이 15개의 유령 인용문과 9개의 허위 인용구를 밝혀냈습니다. 법원은 이를 날조되고 비용이 많이 드는 것이라고 불렀습니다.

저는 오리건과 법원 서류를 읽었습니다. 세일럼 변호사 빌 기오르소(Bill Ghiorso)는 오리건 항소 법원에 15개의 가짜 인용문과 9개의 날조된 인용문이 포함된 서면을 제출했습니다. 판사들은 최근에 설정한 벌금 공식을 적용했습니다. 가짜 인용문당 $500 (€460), 허위 인용구당 $1,000 (€920)을 부과하여 초기 총액은 $16,500 (€15,180)에 달했습니다. 패널은 제재를 $10,000 (€9,200)로 제한했는데, 이는 오리건에서 AI 기반 날조에 대한 가장 큰 벌금입니다.

AI가 가짜 법률 사건을 만들 수 있습니까?

판결을 읽기 전에 답을 짐작했을 것입니다. 그렇습니다. ChatGPT와 Bard에서 Google의 AI 검색 응답에 이르기까지 생성 도구는 권위 있어 보이지만 아무것도 가리키지 않는 인용문을 생성할 수 있습니다. 기오르소의 변호인은 준법률가와 Google의 AI 답변을 탓하며 검색 엔진이 해당 사건들이 “실제로 진짜”임을 확인했다고 주장했습니다. 법원은 그 설명이 불충분하다고 판단했습니다.

판사의 망치가 오래된 의무를 암송했습니다. 변호사는 법원에 진실해야 합니다.

저는 기록이 허구로 가득 차 있을 때 판사들이 인내심을 잃는 것을 보았습니다. 3인 판사 패널은 변호사에게 확인되지 않은 자료를 제출하는 것은 전문성, 진실성 및 정직성에 대한 의무를 위반할 수 있음을 상기시켰습니다. 이 판결은 이전의 오리건 및 전국적인 사례를 따릅니다. Reuters에 따르면 한 변호사는 지난달 가짜 인용문 하나로 $500 (€460)의 벌금을 받았고, 뉴올리언스 패널은 유사한 위법 행위로 2월에 $2,500 (€2,300)의 지불을 명령했습니다.

법원은 AI 환각을 어떻게 처벌합니까?

제재는 다양합니다. 많은 변호사가 여전히 경고만 받고 떠나지만, 법원은 날조가 소송 절차에 영향을 미칠 때 점점 더 많은 재정적 벌금과 공식적인 견책을 가하고 있습니다. 오리건 패널의 계산—가짜 사건당 $500, 허위 인용구당 $1,000—은 소송 당사자에게 예측 가능한 위험 계산을 제공합니다. 그 예측 가능성은 강의보다 더 빨리 행동을 변화시킵니다.

준법률가가 Google에 질문을 입력했습니다. 답변은 권위 있어 보였지만 틀렸습니다.

당신과 저는 챗봇이나 검색 상자에 확인을 요청하고 그 답변을 액면 그대로 받아들이는 것이 얼마나 쉬운지 알고 있습니다. 판사들은 Google의 AI 검색이나 챗봇에 쿼리하는 것은 충분한 사실 확인이 아니라고 명시적으로 경고했습니다. 생성 모델은 선례처럼 읽히지만 법적 존재가 없는 사건 이름, 기자 인용문 및 당사자 조합을 만들 수 있습니다.

분명히 말씀드리고 싶습니다. ChatGPT, Google 또는 Bard와 같은 도구를 초안 작성 및 브레인스토밍에 사용할 수 있지만 FindLaw, Westlaw 또는 LexisNexis와 같은 기본 소스 데이터베이스에서 모든 권한을 확인해야 합니다. AI의 확인에 의존하는 것은 실제 벌금이 부과되는 전문적인 도박입니다.

Google을 신뢰하여 사건을 확인할 수 있습니까?

간단히 말해서, 아닙니다. Google의 AI 요약 및 기타 채팅 기반 출력은 가짜 권한을 마치 실제인 것처럼 제시할 수 있으며 실제로 그렇게 합니다. 법원의 의견은 이를 지적하며 실질적인 조언은 간단합니다. AI를 인용자가 아닌 초안 작성 도우미로 취급하십시오.

기록이 허구로 구축되면 법정의 인내심이 약해집니다. 판사들은 점점 더 자주 처벌하기 시작합니다.

저는 이러한 판결이 허용 가능한 행동의 지도를 설정하기 때문에 추적합니다. 변호사가 AI 환각이 있는 문서를 제출했다는 보고가 수없이 많았습니다. 일부 판사는 경고로 응답하고 다른 판사는 벌금으로 응답합니다. 오리건 제재는 신호입니다. 안전망이 줄어들고 있습니다.

이 순간은 카드 집처럼 느껴집니다. 하나의 가짜 인용문이 주장을 무너뜨리고 변호사에게 수천 달러의 비용을 초래할 수 있습니다. 법률을 실무적으로 적용한다면 그 위험을 의료 과실 약식으로 취급해야 합니다. 기본 소스를 확인하고 인용하고 확인을 문서화하십시오.

법원 의견 및 언론 보도에 인용된 플랫폼 및 출판물에는 Oregonian, FindLaw 및 Reuters가 포함됩니다. 관련 도구에는 Google, ChatGPT 및 OpenAI 및 Alphabet의 기타 생성 엔진이 포함됩니다.

고객에게 조언하거나 직원을 감독하는 경우 체크리스트를 만드십시오. 기본 데이터베이스에서 각 인용문을 확인하고 확인 단계의 기록을 유지하며 지원 직원에게 AI 확인을 최종으로 받아들이지 않도록 교육하십시오. 이러한 관리 마찰은 $10,000 (€9,200)의 제재에 비해 저렴합니다.

저는 유능한 변호사들이 AI 답변이 충분하다고 가정하고 그 대가를 치르는 것을 보았습니다. 법원은 모든 서면이 인간 검증 및 타임스탬프가 찍힌 검색 로그로 각주 처리될 때까지 벌금을 계속 미세 조정할까요?