전 OpenAI 직원 William Saunders와 Daniel Kokotajlo는 캘리포니아 주지사 Gavin Newsom에게 편지를 썼습니다. 미래의 AI 개발에 엄격한 안전 지침과 프로토콜을 부과하는 주 법안에 대한 회사의 반대는 실망스럽지만 놀랍지 않다고 주장합니다.
“우리는 OpenAI에 합류한 이유는 회사가 개발 중인 엄청나게 강력한 AI 시스템의 안전을 보장하고 싶었기 때문입니다.” Saunders와 Kokotajlo는 이렇게 썼습니다. “하지만 우리는 OpenAI가 안전하고 정직하며 책임감 있게 AI 시스템을 개발할 것이라는 신뢰를 잃었기 때문에 OpenAI에서 사임했습니다.”
두 사람은 충분한 보호 장치가 없는 추가 개발은 “전례 없는 사이버 공격이든 생물학 무기 제작 지원이든 대중에게 재앙적인 피해를 입힐 수 있는 예측 가능한 위험을 초래한다”고 주장합니다.
이 듀오는 또한 규제 문제에 대한 OpenAI CEO 샘 알트먼의 위선을 재빨리 지적했습니다. 그들은 그의 최근 의회 증언 AI 산업 규제를 요구하지만 “실제 규제가 논의될 때 그는 반대한다”고 언급했습니다.
MITRE Corporation과 Harris Poll이 실시한 2024년 설문 조사에 따르면 응답자의 39%만이 오늘날의 AI 기술이 “안전하고 보안이 유지된다”고 믿었습니다.
문제의 법안은, SB-1047, 안전 및 보안 혁신 프런티어 인공 모델법은 “특히 개발자가 적용 대상 모델을 처음 훈련하기 전에… 즉시 완전한 종료를 시행하는 기능을 구현하는 것을 포함한 다양한 요구 사항을 준수하고… 서면 및 별도의 안전 및 보안 프로토콜을 구현해야 합니다.”라고 요구합니다. OpenAI는 다음과 같은 피해를 입었습니다. 여러 데이터 유출 최근 몇 년 동안 발생한 시스템 침입 사건.
OpenAI는 대변인이 말했듯이 연구원들의 “SB 1047에 대한 우리 입장의 잘못된 해석”에 강력히 반대한다고 합니다. 비즈니스 인사이더. 대신 이 회사는 “주 법률의 패치워크가 아닌 연방 주도의 일련의 AI 정책이 혁신을 촉진하고 미국이 글로벌 표준 개발을 선도할 수 있는 위치에 설 것”이라고 주장합니다. OpenAI의 최고 전략 책임자인 제이슨 권은 2월에 캘리포니아 주 상원의원 스콧 위너에게 보낸 편지에서 이렇게 말했습니다.
샌더스와 코코타일로는 OpenAI의 연방 규제 추진이 선의가 아니라고 반박한다. “의회가 행동하기를 기다릴 수 없습니다. 그들은 의미 있는 AI 규제를 통과시킬 의향이 없다고 분명히 말했습니다.”라고 두 사람은 썼다. “만약 그들이 그렇게 한다면, 그것은 CA 입법을 선점할 수 있습니다.”
이 법안은 놀랍게도 xAI CEO 엘론 머스크의 지지를 받았습니다. “이것은 어려운 결정이며 일부 사람들을 화나게 할 것입니다. 하지만 모든 것을 고려했을 때 캘리포니아는 아마도 SB 1047 AI 안전 법안을 통과시켜야 한다고 생각합니다.” 그는 X에 글을 썼다 월요일에. “20년 이상, 저는 잠재적 위험이 있는 제품/기술을 규제하는 것처럼 AI 규제를 옹호해 왔습니다.” 최근 테네시주 멤피스에 “세계에서 가장 강력한 AI 교육 클러스터”를 건설한다고 발표한 머스크는 이전에 본사를 이전하겠다고 위협했었다 캘리포니아의 산업 규제를 피하기 위해 자신의 X(이전의 Twitter)와 SpaceX 회사를 텍사스로 이전했습니다.
업데이트: 이 게시물은 Elon Musk의 댓글을 포함하도록 업데이트되었습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
