SSA에서 자동화의 도전 과제

SSA를 현대화하기 위해, 에이전시 지원 동반자라는 혁신적인 ChatGPT 스타일의 봇이 직원 워크플로우에 통합되었습니다. Wired의 보고서에 따르면, 이 챗봇은 직원들이 일상적인 업무를 처리하고 생산성을 향상시키기 위해 설계되었습니다. 그러나 초기 피드백에 따르면 성과가 좋지 않은 것으로 나타났습니다. 내부 소식통은 “솔직히, 아무도 이에 대해 이야기하고 있지 않습니다.”라고 전했습니다.

우스꽝하지만 우려스러운 소개

이 봇의 출시에는 민망한 애니메이션이 담긴 불만족스러운 교육 비디오가 동반되었으며, 이는 직원들에게 민감한 개인 정보를 업로드하지 말아야 한다는 중요한 정보를 전달하는 데 실패했습니다. 이러한 실수 이후, SSA는 “교육 비디오에서의 실수에 대해 사과드립니다.”라는 성명을 발표할 수밖에 없었습니다.

한 SSA 직원은 “제 동료들 중 대부분이 교육 비디오를 시청했는지조차 확실하지 않습니다.”라고 솔직하게 언급했습니다. 챗봇을 실험해본 결과, 그들은 응답이 자주 모호하거나 부정확하다는 점을 언급하며, 그 유용성이 더욱 저하되었다고 덧붙였습니다.

글로벌 자동화 노력에서의 교훈

사회 서비스에 대한 자동화 의존의 문제는 브라질의 복지 프로그램 자동화 시도와 같은 국제 사례에서 반영됩니다. 브라질 앱 Meu INSS는 사소한 오류로 인해 유효한 청구를 자주 거부하여 긴 법적 분쟁을 촉발한 비판을 받아왔습니다.

전 사탕수수 노동자 조셀리아 드 브리토의 이야기는 이 결함 있는 시스템을 잘 보여줍니다. 필요한 모든 문서를 갖추고도 그녀의 혜택은 자동화 오류로 인해 부정당했습니다. 그녀는 “부끄러운 일입니다”라고 말하며, 농촌 노동자들이 증가하는 디지털화에 적응하는 데 직면한 좌절을 강조했습니다.

자동화된 사회 보장 시스템의 위험

SSA 자동화 시도는 추가적인 우려를 야기합니다. 관찰자들은 DOGE가 추구하는 “AI 우선” 전략이 개선보다 명백한 비효율성으로 이어질 수 있다고 경고합니다. 예를 들어, 최근 보고서에 따르면 DOGE 직원들이 수백만 명의 생존 수혜자를 사망자로 잘못 표시하여 상당한 혼란과 혼잡을 초래했습니다. SSA의 청구 분석가인 레니 글래스고는 “[DOGE 직원들이] 시스템에 들어가서 사람들을 죽였습니다.”라고 설명했습니다.

SSA 코드의 야심찬 재작성

DOGE는 몇 개월 내에 SSA의 코드베이스를 완전히 재작성할 계획입니다. 그러나 빠른 변화를 요구하는 압박이 AI에 의존해야 할 필요성을 초래할 수 있으며, 전문가들은 프로그래밍 오류로 인한 잠재적 재앙을 우려하고 있습니다.

비평가들은 이러한 시스템적 오류가 우연치 않다고 추측하며, DOGE의 행동이 진정한 개선보다는 SSA의 민영화를 위한 목적이 아닐 수 있다는 점을 시사합니다.