인공지능 시대가 도래했고, Generative AI는 일상 기술에 전례 없는 발전을 가져오는 데 중요한 역할을 하고 있습니다. 몇 초 안에 놀라운 이미지, 텍스트, 음악, 비디오 등을 생성하는 데 도움이 되는 무료 AI 도구가 이미 여러 개 있습니다. 하지만 Generative AI가 정확히 무엇이고 어떻게 그렇게 빠른 혁신을 촉진하는 것일까요? 자세한 내용은 Generative AI에 대한 자세한 설명을 따르세요.
정의: 생성 AI란 무엇인가?
이름에서 알 수 있듯이 Generative AI는 다음과 같은 유형의 AI 기술을 의미합니다. 새로운 콘텐츠를 생성하다 학습된 데이터를 기반으로 합니다. 텍스트, 코드, 이미지, 오디오, 비디오 및 합성 데이터를 생성할 수 있습니다. 생성 AI는 사용자 입력 또는 “프롬프트”라고 하는 것을 기반으로 광범위한 출력을 생성할 수 있습니다. 생성 AI는 기본적으로 주어진 데이터 세트에서 새로운 데이터를 생성할 수 있는 머신 러닝의 하위 분야입니다.
대규모 언어 모델(LLM)이 방대한 양의 텍스트에서 학습된 경우, 읽을 수 있는 인간 언어를 생성할 수 있습니다. 데이터가 클수록 출력이 더 좋아집니다. 데이터 세트가 학습 전에 정리된 경우, 미묘한 반응을 얻을 가능성이 높습니다.
마찬가지로 이미지 태그, 캡션 및 많은 시각적 예제가 포함된 대규모 이미지 코퍼스로 모델을 훈련한 경우 AI 모델은 다음과 같습니다. 이러한 예에서 배우다 그리고 이미지 분류와 생성을 수행합니다. 예제에서 학습하도록 프로그래밍된 이 정교한 AI 시스템을 신경망이라고 합니다.
즉, 생성 AI 모델에는 여러 종류가 있습니다. 생성적 적대 네트워크(GAN), 변형 자동 인코더(VAE) 생성적 사전 훈련된 변압기(GPT)자기회귀 모델, 그리고 훨씬 더 많은 것들. 우리는 아래에서 이러한 생성 모델에 대해 간략하게 논의할 것입니다.
현재, (주) 일명 Transformer 기반 모델은 GPT-4o/GPT-4/GPT-3.5(ChatGPT), Gemini 1.5 Pro(Gemini), DALL-E 3, LLaMA(Meta), Stable Diffusion 등이 출시된 후 인기를 얻었습니다. OpenAI도 최근 Sora 텍스트-비디오 모델을 데모했습니다.
이러한 모든 사용자 친화적인 AI 인터페이스는 Transformer 아키텍처를 기반으로 구축되었습니다. 따라서 이 설명자에서는 주로 Generative AI와 GPT(Generative Pretrained Transformer)에 초점을 맞출 것입니다.
생성 AI 모델에는 어떤 유형이 있나요?
모든 생성 AI 모델 중에서 GPT는 많은 사람들에게 선호되지만 우선 GPT부터 시작해 보겠습니다. GAN(생성적 적대 신경망). 이 아키텍처에서는 두 개의 병렬 네트워크가 훈련되는데, 그 중 하나는 콘텐츠를 생성하는 데 사용되고(생성기라고 함) 다른 하나는 생성된 콘텐츠를 평가하는 데 사용됩니다(판별기라고 함).
기본적으로 목표는 두 개의 신경망을 서로 맞붙여 실제 데이터를 반영하는 결과를 생성하는 것입니다. GAN 기반 모델은 대부분 이미지 생성 작업에 사용되었습니다.
다음으로, 우리는 변분 자동 인코더(VAE)여기에는 인코딩, 학습, 디코딩 및 콘텐츠 생성 프로세스가 포함됩니다. 예를 들어, 개 이미지가 있는 경우 색상, 크기, 귀 등과 같은 장면을 설명한 다음 개가 어떤 특성을 가지고 있는지 학습합니다. 그런 다음 핵심 포인트를 사용하여 거친 이미지를 재생성하여 단순화된 이미지를 제공합니다. 마지막으로 더 많은 다양성과 뉘앙스를 추가한 후 최종 이미지를 생성합니다.
이동 중 자기 회귀 모델Transformer 모델과 비슷하지만 셀프 어텐션이 부족합니다. 주로 시퀀스를 생성한 다음 지금까지 생성한 시퀀스를 기반으로 다음 부분을 예측하여 텍스트를 생성하는 데 사용됩니다. 다음으로 Normalizing Flows와 Energy-based Models도 있습니다. 하지만 마지막으로 아래에서 인기 있는 Transformer 기반 모델에 대해 자세히 설명하겠습니다.
생성적 사전 훈련된 변압기(GPT) 모델이란 무엇입니까?
Transformer 아키텍처가 도입되기 전에 GAN, VAE와 같은 순환 신경망(RNN)과 합성 신경망(CNN)이 생성 AI에 광범위하게 사용되었습니다. 2017년 Google에서 일하는 연구원들은 선구적 논문 “주의만 있으면 됩니다”(Vaswani, Uszkoreit, et al., 2017) 생성 AI 분야를 발전시키고 대규모 언어 모델(LLM)과 같은 것을 만들었습니다.
구글은 그 후에 BERT 모델을 출시했습니다 (트랜스포머의 양방향 인코더 표현) 2018년에 트랜스포머 아키텍처를 구현했습니다. 동시에 OpenAI는 트랜스포머 아키텍처를 기반으로 한 첫 번째 GPT-1 모델을 출시했습니다.
그렇다면 Generative AI에서 Transformer 아키텍처를 선호하는 주요 요소는 무엇이었을까요? 논문의 제목이 적절하듯이, 자기 관심을 도입하다이는 이전 신경망 아키텍처에서는 없었던 기능입니다.
이것이 의미하는 바는 기본적으로 Transformer라는 방법을 사용하여 문장의 다음 단어를 예측한다는 것입니다. 주변 단어에 세심한 주의를 기울여 맥락을 이해하고 단어 간의 관계를 확립합니다.
이 과정을 통해 Transformer는 합리적인 이해를 발전시킨다 언어의 지식을 사용하여 다음 단어를 안정적으로 예측합니다. 이 전체 과정을 주의 메커니즘이라고 합니다.
즉, LLM은 경멸적으로 여겨진다는 점을 명심하십시오. ~라고 불리는 확률적 앵무새 (Bender, Gebru, et al., 2021) 모델은 확률적 결정과 학습한 패턴을 기반으로 무작위 단어를 단순히 모방하기 때문입니다. 논리에 따라 다음 단어를 결정하지 않으며 텍스트에 대한 진정한 이해가 없습니다.
GPT의 “사전 학습된”이라는 용어는 모델이 다음을 가지고 있음을 의미합니다. 이미 훈련을 받았습니다 어텐션 메커니즘을 적용하기도 전에 방대한 양의 텍스트 데이터에 대해 학습합니다. 데이터를 사전 학습함으로써 문장 구조, 문법, 패턴, 사실, 구문 등이 무엇인지 학습합니다. 이를 통해 모델은 언어 구문이 어떻게 작동하는지 잘 이해할 수 있습니다.
구글과 OpenAI는 생성 AI에 어떤 접근 방식을 취할까?
Google과 OpenAI는 각각 Gemini와 ChatGPT에서 Transformer 기반 모델을 사용하고 있습니다. 그러나 몇 가지 주요 차이점 접근 방식에서. Google의 최신 Gemini는 양방향 인코더(자체 주의 메커니즘과 피드포워드 신경망)를 사용하는데, 이는 주변의 모든 단어에 가중치를 둔다는 것을 의미합니다.
기본적으로 문장의 맥락을 이해하려고 시도한 다음 모든 단어를 한 번에 생성합니다Google의 접근 방식은 기본적으로 주어진 맥락에서 누락된 단어를 예측하는 것입니다.
이와 대조적으로 OpenAI의 ChatGPT는 Transformer 아키텍처를 활용하여 시퀀스의 다음 단어를 예측합니다. 왼쪽에서 오른쪽으로. 일관된 문장을 생성하도록 설계된 단방향 모델입니다. 완전한 문장이나 단락을 생성할 때까지 예측을 계속합니다.
아마도, 그것이 Gemini가 ChatGPT보다 훨씬 빠르게 텍스트를 생성할 수 있는 이유일 것입니다. 그럼에도 불구하고 두 모델 모두 핵심적인 Transformer 아키텍처에 의존하여 Generative AI 프런트엔드를 제공합니다.
생성 AI의 응용 분야
우리는 모두 Generative AI가 텍스트뿐만 아니라 이미지, 비디오, 오디오 생성 등에도 큰 응용 프로그램이 있다는 것을 알고 있습니다. ChatGPT, Gemini, Copilot 등과 같은 AI 챗봇은 Generative AI를 활용합니다.
또한 다음과 같은 용도로도 사용할 수 있습니다. 자동완성, 텍스트 요약가상 지원, 번역 등 음악을 생성하기 위해 Google MusicLM 및 최근 출시된 Meta와 같은 예를 보았습니다. 뮤직젠 음악 세대를 위해.
그 외에도, 달-이 3에서 Stable Diffusion까지 모두 Generative AI를 사용하여 텍스트 설명에서 사실적인 이미지를 만듭니다. 비디오 생성에서도 Runway의 Gen-2, StyleGAN 2, BigGAN 모델은 Generative Adversarial Networks를 사용하여 사실적인 비디오를 생성합니다.
또한 생성 AI는 3D 모델 생성에 응용되며, 인기 있는 모델로는 DeepFashion과 ShapeNet이 있습니다.
그뿐만 아니라 생성 AI는 다음과 같은 측면에서도 큰 도움이 될 수 있습니다. 약물 발견 너무. 특정 질병에 대한 신약을 설계할 수 있습니다. 우리는 이미 Google DeepMind에서 개발한 AlphaFold와 같은 약물 발견 모델을 보았습니다. 마지막으로, Generative AI는 금융 및 날씨의 미래 이벤트를 예측하는 예측 모델링에 사용될 수 있습니다.
생성 AI의 한계
Generative AI는 엄청난 역량을 갖추고 있지만, 단점이 없는 것은 아닙니다. 첫째, 모델을 훈련하려면 방대한 양의 데이터가 필요합니다. 많은 소규모 스타트업의 경우 고품질 데이터를 쉽게 구할 수 없을 수도 있습니다. Reddit, Stack Overflow, Twitter와 같은 회사가 데이터에 대한 액세스를 닫거나 액세스에 대해 높은 수수료를 부과하는 것을 이미 보았습니다.
최근 인터넷 아카이브 보고됨 어떤 AI 스타트업이 자사 웹사이트에 훈련 데이터를 요청하면서 한 시간 동안 웹사이트에 접속이 불가능해졌다고 합니다.
그 외에도 생성 AI 모델은 통제력과 편향성이 부족하다는 이유로 엄청난 비판을 받았습니다. 인터넷의 왜곡된 데이터로 훈련된 AI 모델은 커뮤니티의 일부를 과대하게 표현할 수 있습니다. AI 사진 생성기가 대부분 더 밝은 피부 톤으로 이미지를 렌더링하는 것을 보았습니다.
그 다음에는, 딥페이크 영상의 큰 문제 그리고 Generative AI 모델을 사용한 이미지 생성. 앞서 언급했듯이, Generative AI 모델은 단어의 의미나 영향을 이해하지 못하고 일반적으로 훈련된 데이터를 기반으로 출력을 모방합니다.
최선의 노력과 정렬에도 불구하고 잘못된 정보, 딥페이크 생성, 탈옥 등이 발생할 가능성이 높습니다. 정교한 피싱 시도 기업이 설득력 있는 자연어 처리 능력을 사용하더라도 생성 AI의 한계를 극복하는 데 어려움을 겪을 것입니다.
우리의 활동을 지원해주세요 ❤️
이 글이 마음에 드셨다면, 앞으로도 좋은 콘텐츠를 계속 발행할 수 있도록 팁을 남겨주세요.
