유용한 사고 모델
생성형 AI를 앞으로 무엇이 그럴듯하게 이어질 수 있는지를 학습한 지도로 생각해 보세요.
텍스트의 경우 이 지도는 입력과 이미 생성된 텍스트에 어떤 이어지는 내용이 어울리는지를 나타냅니다. 이미지의 경우에는 캡션에 맞는 그림이 되도록 노이즈를 어떤 시각적 변화로 바꿀 수 있는지를 나타낼 수 있습니다. 이 지도는 완성된 답변의 목록이 아니라, 학습된 AI 모델의 학습된 파라미터에 저장됩니다.
프롬프트는 가능성의 범위를 좁힙니다. “문장을 작성하세요”라고 하면 유효한 출력의 범위가 매우 넓습니다. “젖은 바닥에 대한 6단어 경고 표지를 작성하세요”라고 하면 그 범위 중 적절한 영역이 훨씬 작아집니다.
그런 다음 모델은 학습한 가능성에서 샘플을 추출합니다. 샘플링은 가능한 다음 단계 중 하나를 선택하는 과정이며, 대개 어느 정도 조절된 무작위성이 포함됩니다. 선택된 내용은 다음 단계의 입력 일부가 됩니다. 이 과정을 반복하면 완성된 결과가 만들어집니다.
이것이 패턴 학습과 콘텐츠 생성 사이를 연결하는 핵심입니다.
Training examples -> learning objective -> learned pattern model
|
Prompt + initial state -> repeated sampling --+-> generated output이 도식은 의도적으로 일반화되어 있습니다. “초기 상태”는 텍스트의 시작 부분, 노이즈의 일부, 편집할 기존 이미지 또는 다른 형태의 데이터일 수 있습니다. “반복적인 샘플링”은 다음 텍스트 단위를 추가하거나 각 단계에서 노이즈를 조금씩 제거하는 것을 의미할 수 있습니다.
생성형 AI의 작동 방식
대부분의 생성형 시스템에는 서로 구분되는 두 단계가 있습니다.
1. 분포 학습
학습 과정에서 모델은 자신이 표현해야 하는 데이터 유형의 많은 예시를 봅니다. 학습 목표는 해당 데이터의 구조를 드러내는 작업을 모델이 얼마나 잘 처리하는지 측정합니다. 모델의 점수를 높이기 위해 파라미터가 조정됩니다.
정확한 작업은 모델 계열에 따라 다릅니다.
- 자기회귀 모델은 앞에 있는 단위들을 바탕으로 시퀀스의 다음 단위를 예측합니다.
- 확산 모델은 노이즈를 점진적으로 추가하는 과정을 되돌리는 방법을 학습합니다.
- 변분 오토인코더는 가능한 데이터의 구조화된 공간과 그 공간에서 샘플을 디코딩하는 방법을 학습합니다.
- 생성적 적대 신경망(GAN)은 생성자가 학습 예시와 구별하기 어려운 샘플을 생성하도록 훈련합니다. 이때 두 번째 모델인 판별자는 생성된 샘플과 학습 예시를 안정적으로 구별하지 못해야 합니다.
이러한 방법들은 서로 다르지만, 각각 시스템이 학습 데이터의 패턴을 닮은 샘플을 생성할 수 있는 방법을 제공합니다. 공식적인 머신러닝의 의미에서 이것이 모델을 생성형으로 만드는 요소입니다.
2. 출력 샘플링
학습된 모델을 사용할 때 입력은 생성 과정을 조건화합니다. “조건화”란 입력이 모델이 그럴듯하다고 판단하는 출력의 범위를 바꾼다는 뜻입니다.
생성은 보통 시작 상태에서 시작합니다. 텍스트 모델에는 프롬프트와 지금까지 생성된 텍스트가 있습니다. 이미지 확산 모델은 일반적으로 노이즈에서 시작합니다. 모델은 다음 단계를 예측하고, 하나를 선택하거나 계산한 뒤 상태를 업데이트합니다. 그런 다음 중지 지점에 도달할 때까지 이 과정을 반복합니다.
이 반복 과정은 중요합니다. 생성기가 완성된 답변 중 가장 가능성이 높은 하나만 선택한다고 보장할 수 없으며, 일반적으로 저장소에서 완성된 항목 하나를 가져오는 것도 아닙니다. 작은 선택들이 누적됩니다. 같은 프롬프트에서도 서로 다른 선택을 통해 서로 다른 유효한 출력이 만들어질 수 있습니다.
텍스트 예시
텍스트 생성기에 다음 입력이 주어졌다고 가정해 보겠습니다.
강물이 ______했기 때문에 산책로가 폐쇄되었습니다.
다음 단계에서 모델이 다음과 같은 확률을 부여한다고 가정해 보겠습니다.
- 불어났다 — 54%
- 범람했다 — 21%
- 넘쳐흘렀다 — 12%
- 그 밖의 모든 이어지는 내용 — 13%
이 수치는 설명을 위한 예시이며, 특정 모델을 나타내지 않습니다.
모델이 “불어났다”를 선택하면 작업 중인 텍스트는 다음과 같이 됩니다.
강물이 불어났기 때문에 산책로가 폐쇄되었습니다.
이제 모델은 프롬프트와 “불어났다”를 바탕으로 새로운 가능성의 집합을 계산합니다. 다음에는 “밤새”, “위로”, 또는 문장 부호를 선호할 수 있습니다. 응답이 완성될 때까지 이 과정이 계속됩니다.
두 가지 세부 사항이 생성형 AI의 동작을 상당 부분 설명해 줍니다.
첫째, 생성은 조건부입니다. “산책로”를 “공항”으로 바꾸면 이어질 가능성이 높은 내용도 달라집니다. 둘째, 그럴듯하다는 것은 사실이라는 뜻이 아닙니다. 실제 산책로나 강이 존재하지 않더라도 모델은 폐쇄에 관한 유창한 문장을 만들 수 있습니다. 생성 과정만으로는 해당 주장을 현실과 대조해 확인하지 않습니다.
이 용어에는 넓은 의미와 좁은 의미가 있습니다
머신러닝에서 생성형 모델은 가능한 예시를 추정하거나 생성할 수 있을 만큼 데이터 분포를 잘 표현하는 모든 모델을 의미합니다. 이 범주는 레이블을 예측하거나 범주를 구분하는 데 초점을 맞추는 판별 모델과 자주 대비됩니다. 손글씨 숫자가 어떻게 생겼는지를 학습하는 모델은 생성형이고, 이미지가 0인지 1인지만 판단하는 모델은 판별형일 수 있습니다.
일상적인 제품 언어에서 “생성형 AI”는 보통 더 좁은 의미, 즉 복잡한 디지털 콘텐츠를 생성하는 프롬프트 기반 시스템을 의미합니다. 이러한 시스템은 대규모 범용 모델을 사용하는 경우가 많지만, 넓은 기술적 정의에서 규모와 범용성은 필수 요건이 아닙니다. NIST가 설명하듯, 모든 생성형 AI가 파운데이션 모델에서 비롯되는 것은 아닙니다.
이 때문에 정의가 서로 모순되는 것처럼 들릴 수 있습니다. 어떤 정의는 통계적 모델의 유형을 설명하고, 다른 정의는 그러한 유형을 기반으로 구축된 현재 세대의 제품을 설명합니다.
생성형 AI가 중요한 이유
전통적인 예측 시스템은 고정된 레이블 집합 중 하나나 숫자를 반환하는 경우가 많습니다. 생성형 시스템은 정확한 내용이 사전에 지정되지 않은 출력을 구성할 수 있습니다.
이러한 특성 덕분에 하나의 모델을 생성으로 표현할 수 있는 다양한 작업에 활용할 수 있습니다. 텍스트 모델은 각 작업을 적절한 시퀀스를 생성하는 일로 표현할 수 있기 때문에 초안 작성, 요약, 번역, 형식 변환 또는 코드 작성에 사용할 수 있습니다. 이미지 모델은 각 작업을 서로 다른 조건에서 시각적 데이터를 생성하는 일로 표현할 수 있기 때문에 이미지를 만들고, 확장하거나, 편집할 수 있습니다.
이러한 유연성은 동시에 가장 큰 신뢰성 문제를 만듭니다. 그럴듯해 보이는 출력은 많습니다. 하지만 그중 일부만 사용자의 명시되지 않은 요구를 충족하고, 외부 사실과 일치하며, 유해한 자료를 피하고, 법적·사회적 제약을 준수합니다. 설득력 있는 형식을 생성하는 능력이 그 형식 안의 내용까지 보장하는 것은 아닙니다.
흔한 오해
“데이터베이스를 검색해서 답변을 짜깁기한다”
생성형 모델은 일반적으로 저장된 응답 하나를 선택하는 것이 아니라 학습한 파라미터를 반복적으로 적용하여 출력을 만듭니다. 그렇다고 암기가 불가능하다는 뜻은 아닙니다. 특히 반복적으로 등장했거나 특징적인 학습 데이터의 일부를 모델이 재현할 수 있습니다. “데이터베이스 조회가 아니다”와 “학습 자료를 절대 재현하지 않는다”는 서로 다른 주장입니다.
“생성된 콘텐츠는 사실이다”
생성은 학습한 패턴 및 입력 조건과 잘 맞는 것을 목표로 합니다. 사실 여부에는 증거, 계산, 관찰 또는 신뢰할 수 있는 출처라는 다른 기준이 필요합니다. 유창한 답변에도 지어낸 이름, 인용, 사건 또는 인과적 설명이 포함될 수 있습니다.
“생성된 콘텐츠는 반드시 독창적이다”
시스템이 완성된 저장 기록을 가져온 것이 아니라 이번 실행에서 조합했다는 제한적인 의미에서는 출력이 새로울 수 있습니다. 그러나 그것이 창작적으로 독창적인지, 법적으로 보호될 수 있는지, 기존 작품의 파생물인지, 암기의 영향을 받았는지는 별개의 문제입니다. 이러한 질문에 대한 답은 출력, 학습 과정 및 적용되는 규칙에 따라 달라집니다.
“생성형 AI는 챗봇을 의미한다”
챗봇은 인터페이스이자 애플리케이션 패턴입니다. 생성형 AI는 콘텐츠를 생성하는 모델과 시스템의 기반 범주입니다. 여기에는 이미지, 오디오, 동영상, 코드 및 특수 데이터 생성기도 포함됩니다.
“모든 생성형 AI 시스템은 같은 종류의 모델이다”
자기회귀, 확산, 변분, 적대적 생성 및 기타 생성 방법은 서로 다른 학습 목표와 샘플링 과정을 사용합니다. 이들은 하나의 보편적인 아키텍처가 아니라 목적을 공유합니다.
더 넓은 시스템에서의 역할
모델은 생성형 AI 제품의 한 부분일 뿐입니다. 완전한 애플리케이션은 모델 주변에 지침, 사용자 제어 기능, 외부 정보, 안전 점검, 콘텐츠 필터, 도구 및 출력 검증 기능을 추가할 수 있습니다.
이러한 주변 요소는 기본 정의를 바꾸지 않고도 동작을 변화시킬 수 있습니다. 검색 연결 기능은 텍스트 생성기에 최신 근거를 제공할 수 있습니다. 필터는 특정 이미지를 차단할 수 있습니다. 코드 도구는 생성된 코드에서 테스트를 실행할 수 있습니다. 생성기는 여전히 후보 콘텐츠를 제공하고, 나머지 시스템은 맥락, 기능 및 점검을 제공합니다.
다음 학습 단계
학습된 모델 자체에 무엇이 들어 있는지 이해하려면 AI 모델이란 무엇인가요?부터 시작하세요. 그런 다음 현재 많은 생성형 제품의 기반이 되는 광범위하고 재사용 가능한 모델에 대해서는 파운데이션 모델이란 무엇인가요?를 읽어 보세요. 텍스트, 이미지, 오디오 및 동영상 전반에서 작동하는 시스템에 대해서는 멀티모달 AI란 무엇인가요?를 확인하세요.