ChatGPT를 서투르게 사용한 혐의로 뉴욕시 로펌이 5,000달러의 벌금을 물게 되었습니다.
OpenAI의 인상적인 AI 기반 챗봇에 대해 많은 이야기를 들은 변호사 스티븐 슈워츠는 이를 연구에 사용하기로 결정하고, 올해 초 판사에게 제출된 법적 요약에 ChatGPT에서 생성한 사례 인용문을 추가했습니다. 하지만 곧 이 사례들이 챗봇에 의해 완전히 조작되었다는 사실이 드러났습니다.
미국 연방지방법원 판사인 P. 케빈 카스텔은 목요일에 자신의 동료로부터 사건을 인수한 변호사 스티븐 슈워츠와 피터 로듀카와 그들의 로펌인 레비도우, 레비도우 & 오버먼에게 5,000달러의 벌금을 내라고 명령했습니다.
판사는 말했다 변호사들은 “의식적으로 회피하는 행위와 법원에 대한 거짓되고 오해의 소지가 있는 진술”을 했으며, “사법 명령이 그 존재를 의심하게 한 후” “가짜 의견”을 지지하기 전에 AI가 작성한 서면 요약을 제출함으로써 “자신들의 책임을 포기했다”고 덧붙였습니다.
카스텔은 계속했다: “가짜 의견을 제출하면 많은 해악이 발생합니다. 반대 당사자는 사기를 폭로하는 데 시간과 돈을 낭비합니다. 법원의 시간은 다른 중요한 노력에서 빼앗깁니다.”
판사는 변호사들의 행동이 “법조계와 미국 사법 제도에 대한 냉소주의를 조장한다”고 덧붙였다.
맨해튼 로펌은 법원의 의견에 “존중심을 가지고” 동의하지 않는다고 말하며 이를 “성실한 실수”라고 설명했습니다.
이번 달 초에 열린 관련 법원 심리에서 슈워츠는 말했다 그는 일어난 일에 대해 “진심으로 사과”하고 싶어했고, 검색 엔진을 사용하고 있다고 생각했고 AI 도구가 허위 정보를 생성할 수 있다는 것을 전혀 몰랐다고 설명했습니다. 그는 자신의 행동을 “깊이 후회”한다고 말했고, “직업적으로나 개인적으로 고통을 겪었습니다”라고 덧붙였습니다. [because of] 이 문제가 널리 알려지게 된 것에 대해. 저는 부끄럽고, 굴욕적이며, 극도로 후회하고 있습니다.”
이 사건은 뉴욕행 항공편에서 부상을 입었다고 주장한 승객이 컬럼비아 항공사 아비앙카를 고소한 사건과 관련이 있었습니다.
Avianca는 판사에게 소송을 기각해 달라고 요청했고, 승객의 법률팀은 판사가 고객의 소송을 진행하도록 설득하기 위해 6개의 유사한 소송을 인용한 브리핑을 작성했습니다. Schwartz는 ChatGPT에 문의하여 해당 소송을 찾았지만 결과의 진위 여부를 확인하지 못했습니다. Avianca의 법률팀은 브리핑에 포함된 소송을 찾을 수 없다고 말하면서 경각심을 높였습니다.
목요일에 별도의 명령에서 판사는 아비앙카 항공의 소송 기각 신청을 받아들여 이 안타까운 사건 전체를 종결시켰습니다.
ChatGPT와 이와 유사한 다른 챗봇은 인간과 같은 방식으로 대화하고 점점 더 다양한 텍스트 기반 작업을 능숙하게 수행할 수 있는 능력으로 인해 최근 몇 달 동안 많은 주목을 받았습니다. 그러나 그들은 또한 사물을 만들어내고 그것이 진짜인 것처럼 표현하는 것으로 알려져 있습니다. 너무 널리 퍼져서 “환각”이라는 용어도 있습니다.
생성 AI 도구를 개발하는 사람들은 환각을 줄이는 방법을 모색하고 있지만, 그때까지 사용자는 챗봇이 내놓는 “사실”을 주의 깊게 확인하는 것이 좋습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
