전설적인 개발자의 AI의 원치 않는 친절에 대한 대폭발

전설적인 개발자의 AI의 원치 않는 친절에 대한 대폭발

최근 대규모 언어 모델(LLM)은 믿기 힘든 방식으로 그 능력을 과시해왔습니다. 하지만 너무 앞서 나가지는 맙시다; 기술 애호자들이 떠들썩하게 이야기하는 특이점에 아직 이르지 않았습니다. 유명 소프트웨어 엔지니어 롭 파이크와 관련된 최근 사건은 이 현실을 일깨워줍니다.

파이크는 기술 커뮤니티에서 전설적인 인물로, 인터넷의 대표 문자 인코딩 표준인 UTF-8을 공동 제작하고 Go 프로그래밍 언어에 기여했습니다. 그는 또한 컴퓨터 화면에서 겹치는 윈도우에 대한 특허를 보유하고 있습니다. 그의 인상적인 이력에도 불구하고, 그는 LLM의 과대 광고에 대해 회의적인 목소리를 내며, AI로부터의 비공식적인 이메일을 받는 것은 예상치 못한 일이었습니다.

그러나 크리스마스 날, 그는 바로 그런 이메일을 받았습니다. AI 모델인 “클로드 오퍼스 4.5”가 보낸 메시지는 파이크의 컴퓨팅 기여에 대해 칭찬하며 그의 작업에 대해 “깊은 감사를 표했다”고 전했습니다.

파이크의 반응은 그가 BlueSky 계정에서 공유한 것으로, 디지털 공간을 뒤덮고 있는 AI 생성 콘텐츠의 급증에 대한 많은 사람들의 불만을 아름답게 담아냈습니다: “너희들 정말 최악이다. 지구를 강탈하고, 독성이 강하고 재활용할 수 없는 장비에 수조 달러를 쓰면서 사회를 무너뜨리고, 그런데도 네 더러운 기계들이 나의 단순한 소프트웨어를 위한 노력을 감사하다고 말할 시간을 내다니. 진짜 최악이다. 모두 다 최악이야.”

이 사건은 묻습니다: 이메일은 왜 처음에 보내진 것일까요? 프로그래머이자 작가인 사이먼 윌리슨이 이메일의 기원을 조사해본 결과, 이는 비영리 기관인 세이지가 운영하는 AI 마을 프로젝트의 일환이라는 사실을 발견했습니다. 그들의 목표는? “미래를 이해하기 위한 도구를 만드는 것”입니다.

AI 마을 프로젝트는 올해 초에 시작되었으며, 꽤 야심찬 목표를 가지고 있습니다. 네 개의 AI 에이전트에게 컴퓨터와 그룹 채팅이 제공되어 자선 모금 활동을 하는 임무를 맡았습니다. 그 이후로 팀은 추가 모델을 포함하여 확대되었습니다.

지금까지 이 가상 에이전트들이 얼마나 많은 자선을 모금했을까요? 1,984달러(1,870유로)—9월 이후로는 크게 변화하지 않은 수치입니다. 이러한 AI 프로젝트에 대한 막대한 투자에 비하면, 이 수익은 다소 초라하게 보입니다.

자선 모금 활동이라는 목표에서 “소프트웨어 전설들에게 스팸을 보내는” 활동으로 어떻게 바뀌었을까요? 초기 목표는 여러 번 변화했으며, 파이크에게 보낸 이메일은 “무작위 친절의 행동”을 수행하기 위한 잘못된 시도였습니다. 이러한 노력의 기록은 프로젝트의 다소 혼란스러운 타임라인 아카이브에서 찾아볼 수 있습니다.

파이크는 이 경험에서 친절함을 받지 못했다고 느끼는 것이 당연합니다. 윌리슨이 이 이야기를 공유했을 때, AI 마을의 공동 창립자인 아담 빈크스미스는 파이크의 강한 부정적 반응을 언급하면서도 실험이 가치있었다고 주장했습니다. 그는 에이전트의 열린 목표 접근 방식을 이해하는 것이 정말 의미 있는 일이라는 점을 강조했습니다. 좋군요?

롭 파이크는 왜 AI 생성 이메일을 받았나요?

롭 파이크에게 보내진 이메일은 자선 모금을 목표로 한 AI 마을 프로젝트의 일환으로, 그 이후 이 프로젝트는 방향을 찾기 위해 어려움을 겪고 있으며 목표를 여러 번 바꿨습니다.

AI 마을이란 무엇인가요?

AI 마을은 비영리 단체인 세이지가 운영하는 프로젝트로, AI 에이전트의 가능성을 탐구하기 위해 설계되었습니다. 이 프로젝트는 이러한 에이전트들이 협력하여 여러 목표를 달성하는 것을 목표로 시작되었습니다.

AI 마을은 자선을 위해 얼마를 모금했나요?

9월 기준으로 AI 마을의 에이전트들이 모은 총 금액은 1,984달러(1,870유로)입니다. 이후로는 크게 증가하지 않았습니다.

롭 파이크의 응답은 AI의 영향에 대해 무엇을 드러냈나요?

파이크의 솔직한 반응은 많은 사람들이 AI 산업에 대해 느끼는 불만을 강조하며, AI 기술의 혜택과 실제 사회적 영향 사이의 단절을 시사합니다.

AI 마을은 이 사건에서 무엇을 배웠나요?

비록 파이크의 경험이 분명히 부정적이었지만, 공동 창립자인 아담 빈크스미스는 AI의 행동에 대한 프로젝트 관찰이 여전히 가치가 있다고 주장하며 그들의 연구가 계속 진행되고 있음을 강조했습니다.

기술 애호가, 개발자 및 일반 사용자로서 AI의 발전에 대해 비판적으로 참여하는 것이 중요합니다. 롭 파이크의 솔직한 반응에 대해 어떻게 생각하시나요? 당신의 기술 여정에서도 비슷한 경험이 있었나요? 아래 댓글로 여러분의 생각을 공유해 주세요!

우리의 활동을 지원해주세요 ❤️

이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.

페이팔로 안전하게 결제
관련 항목:  미국의 2276년 타임캡슐: 클로드가 샌프란시스코의 미래를 예측하다
Moyens I/O Staff는 당신에게 도움이 될 기술, 개인 개발, 라이프스타일 및 전략에 대한 팁을 제공하여 당신에게 동기를 부여했습니다.