유용한 사고방식
모델을 디지털 두뇌나 답변 데이터베이스가 아니라, 조정 가능한 변환으로 생각해 보세요.
모델에는 정보가 그 안에서 어떻게 흐를 수 있는지를 결정하는 구조가 있습니다. 또한 입력의 여러 부분이 출력에 얼마나 강하게 영향을 미치는지를 결정하는 학습된 값도 있습니다. 구조와 학습된 값이 함께 변환을 정의합니다.
날씨 모델에 측정값을 입력하면 강수 확률이 출력될 수 있습니다. 이미지 분류기에 픽셀을 입력하면 여러 레이블에 대한 점수가 출력될 수 있습니다. 언어 모델에 텍스트를 입력하면 다음에 올 수 있는 텍스트의 확률이 출력될 수 있습니다. 입력과 출력은 서로 다르지만 모델의 역할은 동일합니다.
모델이 반드시 신경망일 필요는 없습니다. 선형 모델, 의사결정 트리, 확률 모델 및 기타 방법도 AI 시스템 내부의 모델 역할을 할 수 있습니다. 신경망은 특히 유연한 모델 계열 중 하나입니다.
AI 모델은 어떻게 만들어지고 사용되는가
머신러닝 모델의 경우, 아이디어에서 출력에 이르는 과정은 학습과 추론이라는 두 가지 주요 단계로 이루어집니다.
학습 과정에서 개발자는 모델의 구조와 목표를 정합니다. 모델은 예제를 처리하고, 그 출력은 해당 목표와 비교되며, 학습 절차는 오류를 줄이거나 보상을 높이도록 학습 가능한 값을 조정합니다. 이 과정을 반복하면 학습된 모델이 만들어집니다. 즉, 특정 구조와 특정 학습 상태를 가진 모델입니다.
그런 다음 모델을 학습에 사용하지 않은 데이터나 상황에서 평가합니다. 이는 모델이 단순히 학습 예제에 맞춘 것이 아니라 유용한 패턴을 학습했는지 확인하는 과정입니다. 한 번의 평가를 통과했다고 해서 모든 모집단, 환경 또는 용도에서 제대로 작동한다는 뜻은 아닙니다.
추론 과정에서 학습된 모델은 새로운 입력을 받아 전체 학습 과정을 반복하지 않고 출력을 계산합니다. 배포된 서비스는 모델의 학습된 값이 변하지 않는 상태에서 수백만 번 추론을 실행할 수 있습니다. 별도의 과정에서 피드백을 수집하고 모델을 업데이트하거나 재학습시키는 경우에만 모델이 이후 상호작용을 통해 학습합니다.
모델이라는 단어는 이 과정의 여러 산출물을 가리킬 수 있습니다.모델이라는 단어는 이 과정의 여러 산출물을 가리킬 수 있습니다.
- 학습 전에는 제안된 구조를 의미할 수 있습니다.
- 학습 후에는 일반적으로 구조와 데이터에서 학습한 값을 함께 의미합니다.
- 프레임워크에서는 학습이 완료된 객체나 학습된 상태를 포함하는 파일을 의미할 수 있습니다.
- 제품 카탈로그에서는 이름이 붙은 모델 계열, 특정 버전 또는 해당 버전을 실행하는 엔드포인트를 의미할 수 있습니다.
이러한 용례는 서로 겹치지만 동일하지는 않습니다. 정밀성이 중요할 때는 주장이 모델의 설계, 학습된 상태, 파일 또는 모델을 둘러싼 서비스 중 무엇에 관한 것인지 확인해야 합니다.
예제로 살펴보기
스팸 가능성이 있는 이메일을 표시하는 아주 단순한 모델을 생각해 보겠습니다. 주변 소프트웨어는 각 이메일을 다음 두 가지 입력으로 변환합니다.
- 링크 수
- 짧은 ‘긴급’ 단어 목록에 포함된 단어 수
학습을 통해 다음과 같은 점수가 만들어졌다고 가정해 보겠습니다.
스팸 점수 = 1.4 × 링크 수 + 0.9 × 긴급 단어 수 − 1.2
링크가 두 개이고 긴급 단어가 하나인 이메일의 경우:
1.4 × 2 + 0.9 × 1 − 1.2 = 2.5
링크와 긴급 단어가 하나도 없는 이메일의 경우:
1.4 × 0 + 0.9 × 0 − 1.2 = −1.2
제품이 양수 점수를 스팸으로 처리한다면 첫 번째 이메일은 표시하고 두 번째 이메일은 통과시킵니다.
모델은 점수를 생성하는 변환, 즉 그 공식과 학습된 수치 값입니다. 이메일을 읽고, 특성을 세고, 기준값을 선택하고, 메시지를 스팸 폴더로 옮기며, 사용자가 실수를 수정하도록 하는 코드는 더 넓은 시스템을 구성합니다.
이 장난감 모델은 쉽게 검사할 수 있습니다. 현대의 신경망은 수많은 계층과 학습된 값을 포함할 수 있으며, 생성 모델은 하나의 고정된 레이블을 반환하는 대신 가능한 여러 출력 중 하나를 선택할 수 있습니다. 그래도 본질적인 역할은 동일합니다. 모델에 포착된 패턴에 따라 적절한 입력을 출력으로 변환하는 것입니다.
모델은 전체 AI 시스템이 아닙니다
이 구분은 파이프라인으로 보면 가장 쉽게 이해할 수 있습니다.
raw input
↓
input preparation
↓
AI model: structure + learned state
↓
raw model output
↓
rules, tools, storage, and presentation
↓
system result or action예를 들어 챗봇은 언어 모델을 중심으로 지침, 대화 기록, 검색된 문서, 안전성 검사, 도구 및 인터페이스를 추가할 수 있습니다. 모델이 그대로 유지되더라도 이러한 계층 중 하나라도 바뀌면 사용자의 경험이 달라질 수 있습니다. 더 큰 시스템에서는 하나의 요청을 여러 모델을 거쳐 처리할 수도 있습니다.
경계가 항상 동일한 방식으로 패키징되는 것은 아닙니다. 분류 기준값이 한 시스템에서는 모델에 내장될 수 있지만, 다른 시스템에서는 주변 코드가 적용할 수 있습니다. 실질적인 판단 기준은 핵심적인 학습 기반 입력-출력 변환을 수행하는 구성 요소를 식별한 다음, 그 출력을 준비하거나 제한하거나 해석하거나 그에 따라 행동하는 요소를 식별하는 것입니다.
이 구분이 중요한 이유
이 구분은 모든 성공이나 실패를 잘못된 구성 요소의 탓으로 돌리는 일을 막아 줍니다. 좋지 않은 결과는 모델 때문일 수도 있지만, 맥락 부족, 잘못된 입력 준비, 부적절한 기준값, 도구 오류 또는 추론 후 적용된 규칙 때문일 수도 있습니다.
또한 모델에 관한 주장을 더 쉽게 평가할 수 있게 해 줍니다. 모델의 유용성은 작업, 모델이 받게 될 입력의 종류, 출력이 사용되는 방식 및 실수의 비용과 관련해서만 판단할 수 있습니다. 따라서 모델 문서에는 의도된 용도, 평가 조건, 알려진 한계 및 테스트하지 않은 용도가 명시되어야 합니다. 하나의 정확도 수치나 제품 시연만으로는 이러한 질문에 모두 답할 수 없습니다.
마지막으로 이 구분은 자신이 어떤 접근 권한을 갖고 있는지도 명확하게 해 줍니다. 학습된 가중치를 다운로드하는 것, API를 통해 호스팅 모델을 호출하는 것, 완성된 AI 애플리케이션을 사용하는 것은 서로 다른 수준의 제어 권한을 제공합니다. 동일한 모델 계열을 사용할 수는 있지만, 이들은 같은 것이 아닙니다.
흔한 오해
“모델에는 학습 데이터가 들어 있다”
학습된 모델에는 일반적으로 예제의 행 단위 검색 가능한 복사본이 아니라 학습된 수치 상태가 들어 있습니다. 이 상태는 출력을 생성하는 데 유용한 패턴을 포착합니다. 하지만 특정 상황에서는 모델이 학습 데이터의 일부를 재현하거나 노출할 수 있으므로, ‘데이터베이스가 아니다’라는 말이 ‘암기할 수 없다’는 뜻은 아닙니다.
“모델은 내가 사용할 때마다 학습한다”
추론은 일반적으로 고정된 학습 값을 사용합니다. 제품이 대화를 저장하거나, 이후 요청을 개인화하거나, 향후 학습을 위해 피드백을 사용할 수는 있지만, 이는 별도의 시스템 동작입니다. 이런 동작이 있다고 해서 배포된 모델이 대화 중에 스스로 업데이트되었다는 뜻은 아닙니다.
“AI 모델은 알고리즘과 같다”
알고리즘은 절차입니다. 학습 알고리즘은 모델을 조정하고, 추론 알고리즘은 모델을 실행합니다. 일상적인 표현에서는 두 용어가 겹치기도 하지만, 절차와 학습된 결과를 구분하면 동일한 학습 방법이 서로 다른 데이터로부터 서로 다른 모델을 만들 수 있는 이유를 이해할 수 있습니다.
“모든 AI 모델은 언어 모델이다”
대규모 언어 모델(LLM)은 AI 모델의 한 종류입니다. 다른 모델들은 이미지를 분류하고, 수량을 예측하고, 검색 결과의 순위를 매기고, 이상을 탐지하고, 항목을 추천하고, 기계를 제어하거나, 그 밖의 입력-출력 작업을 수행합니다.
“더 나은 모델은 더 나은 제품을 보장한다”
더 강력한 모델은 시스템의 기본 역량을 향상할 수 있지만, 제품 품질은 데이터, 지침, 도구, 안전장치, 지연 시간, 인터페이스 설계 및 모델이 실제 작업에 적합한지 여부에도 좌우됩니다. 모델은 핵심이지만 유일한 요소는 아닙니다.
AI 모델이 더 넓은 시스템에 들어맞는 방식
AI 프로젝트는 작업과 유용한 동작을 판단할 방법에서 시작합니다. 학습을 통해 모델을 만들거나 조정합니다. 평가는 선택한 조건에서 모델의 동작을 확인합니다. 배포는 모델을 실행하는 데 필요한 컴퓨팅 자원과 주변 소프트웨어를 제공합니다. 그런 다음 모니터링을 통해 오류, 변화하는 입력 및 모델이나 시스템을 업데이트해야 하는 이유를 살펴봅니다.
이러한 수명 주기 때문에 ‘이 시스템은 어떤 모델을 사용하나요?’라는 질문은 유용한 질문의 출발점일 뿐입니다. 어떤 버전이 실행 중인지, 어떤 입력을 받는지, 출력이 어떻게 처리되는지, 무엇을 대상으로 평가되었는지, 최종 결정을 사람이 내리는지 아니면 다른 프로그램이 내리는지도 알아야 할 수 있습니다.
다음으로 읽을 내용
학습된 모델 상태를 만드는 과정은 AI에서 학습이란 무엇인가요?에서 알아보고, 학습된 모델이 새로운 입력을 처리할 때 무슨 일이 일어나는지는 AI에서 추론이란 무엇인가요?에서 알아보세요. 많은 텍스트 및 채팅 제품의 기반이 되는 모델 계열은 LLM이란 무엇인가요?에서 다룹니다.