그 외에도 MeitY는 AI 기업들에게 “인공지능 모델/LLM/생성 AI, 소프트웨어 또는 알고리즘 등을 사용하는 것을 포함하여 편견이나 차별을 허용하지 않으며 선거 과정의 성실성을 위협하지 않습니다.“
Google은 이 문제를 신속히 해결하고 다음과 같이 말했습니다.Gemini는 창의성과 생산성 도구로 구축되었으며, 특히 시사, 정치 주제 또는 진화하는 뉴스에 대한 프롬프트에 응답할 때 항상 신뢰할 수 있는 것은 아닙니다. 이는 우리가 끊임없이 개선하기 위해 노력하고 있는 부분입니다..”
미국에서 구글은 최근 Gemini의 이미지 생성 모델이 백인 이미지를 생성하지 못한 후 비난을 받았습니다. 사용자들은 구글이 백인에 대한 편견. 이 사건 이후, 구글은 제미니에 있는 사람들의 이미지 생성을 비활성화했으며 모델을 개선하기 위해 노력하고 있습니다.
그 외에도 플랫폼이나 해당 플랫폼 사용자가 이러한 규칙을 준수하지 않으면 다음과 같은 결과가 발생할 수 있다고 이 권고문은 말합니다.잠재적인 형벌 결과.”
이 권고사항에는 “IT법 및/또는 IT 규정을 준수하지 않을 경우, 중개자나 플랫폼 또는 해당 사용자가 적발될 경우, IT법 및 여러 형법 조항에 따라 기소되는 것을 포함하되 이에 국한되지 않는 잠재적인 형사적 결과를 초래할 수 있음을 반복해서 알려드립니다.“
어떤 의미가 있을까?
그 외에도 전문가들은 다음과 같이 말합니다. 권고사항은 “모호하다” 그리고 “테스트되지 않은” 것이 무엇인지 정의하지 않습니다. Google과 OpenAI와 같은 회사는 모델을 출시하기 전에 광범위한 테스트를 수행합니다. 그러나 AI 모델의 경우와 마찬가지로 웹에서 스크래핑한 방대한 데이터 코퍼스로 훈련되어 환각을 보여 잘못된 응답을 생성할 수 있습니다.
거의 모든 AI 챗봇이 홈페이지에 이 정보를 공개합니다. 정부는 어떤 모델이 테스트되지 않았는지, 어떤 프레임워크에 따라 결정할까요?
명확히 설명해 주셔서 감사합니다, 찬드라세카르 씨. 명확하지 않음:
1. 자문이 법적으로 구속력이 있는 방식. 조례가 아님.
2. IT Act에 의해 뒷받침되는 방식+법적 코셔
3. 스타트업을 배제하는 방법
4. 테스트되지 않은 것은 무엇을 의미합니까?
AI의 안전에 집중해주셔서 감사합니다. 공개 협의를 해주세요. https://t.co/YOwVQbXgzR— Nikhil Pahwa (@nixxin) 2024년 3월 4일
흥미롭게도 이 자문은 기술 회사에 “영구적인 고유 메타데이터 또는 식별자” AI가 생성한 데이터(텍스트, 오디오, 비주얼 또는 오디오-비주얼)에서 최초의 발신자, 제작자, 사용자 또는 중개자를 식별합니다. 이를 통해 AI의 추적 가능성에 대해 알아보겠습니다.
그것은 진화하는 연구 분야 AI 분야에서는 지금까지 AI가 작성한 텍스트를 감지하는 신뢰할 만한 방법을 본 적이 없고, 더 나아가 내장된 메타데이터를 통해 작성자를 식별하는 방법도 없습니다.
OpenAI는 작년에 AI 분류기 도구를 종료했습니다. 이 도구는 인간이 쓴 텍스트와 AI가 쓴 텍스트를 구별하는 것을 목표로 했지만 거짓 양성 결과를 제공했습니다. AI가 생성한 잘못된 정보에 맞서기 위해 Adobe, Google, OpenAI는 최근 씨투파(C2PA) (콘텐츠 출처 및 진위성) 표준을 제품에 추가하여 워터마크 및 메타데이터 생성된 이미지에. 그러나 메타데이터와 워터마크는 온라인 도구와 서비스를 사용하여 쉽게 제거하거나 편집할 수 있습니다.
현재는 있습니다 발신자를 식별하는 완벽한 방법은 없습니다 또는 내장된 메타데이터를 통해 사용자. 따라서 MeitY가 합성 데이터에 영구 식별자를 내장하라는 요청은 이 시점에서는 성립할 수 없습니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
