어떤 소프트웨어가 “AI”인지 판별하는 보편적인 테스트는 없습니다. 이 명칭은 기술적·역사적·법적 맥락에 따라 달라집니다. 더 유용한 질문은 기계가 사람처럼 생각하는지 여부가 아닙니다. 시스템이 입력을 출력으로 어떻게 변환하는지, 그 출력에 어떤 일이 일어나는지, 그리고 누가 목표를 정했는지를 묻는 것이 더 중요합니다.
유용한 사고 모델
AI 시스템은 서로 연결된 다섯 부분으로 이해할 수 있습니다.
- 목표: 시스템이 어떤 결과를 만들어 내는 데 도움을 주어야 하나요?
- 입력: 시스템은 어떤 정보를 받나요?
- 방법: 시스템은 입력에서 출력을 어떻게 도출하나요?
- 출력: 예측, 콘텐츠, 추천, 의사결정 중 무엇을 생성하나요?
- 결과: 사람, 소프트웨어, 기계는 그 출력을 어떻게 사용하나요?
방법은 시스템의 한 부분일 뿐입니다. 방법은 인코딩된 규칙 집합일 수도 있고, 예시를 바탕으로 구축된 AI 모델일 수도 있으며, 여러 구성 요소가 함께 작동하는 형태일 수도 있습니다. 목표, 데이터, 임계값, 인터페이스, 사람의 감독은 모두 결과를 형성합니다.
Objective and design choices
│
▼
Input ──▶ AI method or model ──▶ Output ──▶ Decision or action ──▶ Effect
▲
│
Rules, examples,
feedback, constraints이 다이어그램은 AI 모델과 AI 제품이 동일하지 않은 이유도 보여 줍니다. 모델은 점수를 반환하거나 텍스트를 생성할 수 있습니다. 모델을 둘러싼 시스템은 언제 모델을 호출할지, 어떤 정보를 제공할지, 출력을 받아들일지, 어떤 조치를 취할지를 결정합니다.
AI의 작동 방식
AI 시스템은 작업과 유용한 결과에 대한 일정한 정의에서 시작합니다. 이 정의는 잘못된 사기 경보를 최소화하는 것처럼 명시적일 수 있습니다. 또는 예시, 피드백, 설계 선택에 부분적으로 암묵적으로 포함될 수도 있습니다.
그런 다음 시스템은 관련 입력을 자신의 방법으로 처리할 수 있는 형태로 표현합니다. 이미지 인식기는 픽셀값을 받습니다. 경로 계획기는 위치와 도로 정보를 받습니다. 언어 시스템은 인코딩된 텍스트를 받습니다. 이러한 표현은 일부 세부 정보를 유지하고 다른 정보는 잃기 때문에, 표현 단계만으로도 시스템이 할 수 있는 일이 달라집니다.
방법은 입력을 출력으로 매핑합니다. 규칙 기반 시스템에서는 사람이 지식과 논리적 관계를 인코딩합니다. 머신러닝에서는 학습 과정이 모델을 조정하여 예시의 패턴이 새로운 입력을 처리하는 데 도움이 되도록 합니다. 실제로 사용되는 많은 시스템은 학습된 모델을 규칙, 검색, 데이터베이스, 사람의 의사결정과 결합합니다.
배포된 모델이 새로운 입력을 처리할 때 이를 추론이라고 합니다. 그 결과는 범주, 수치 점수, 생성된 문단, 제안된 조치일 수 있습니다. 그런 다음 별도의 계층에서 비즈니스 규칙, 안전 검사, 사람의 검토를 적용한 뒤 실제 세계에 어떤 변화가 일어나게 할 수 있습니다.
마지막으로 시스템은 실제 사용 환경에서 평가되어야 합니다. 하나의 목표에 유용한 출력이 다른 목표에는 해로울 수 있습니다. 의료 제안과 영화 추천은 동일한 증거, 검토 방식, 오류 허용도를 필요로 하지 않습니다. 또한 테스트에서의 성능이 배포 후에도 입력, 사람, 조건이 동일하게 유지된다는 것을 보장하지는 않습니다.
구체적인 예시
받은 편지함에서 스팸을 차단하면서 정상적인 메일은 숨기지 않으려는 이메일 서비스를 생각해 보겠습니다.
이 서비스의 목표는 단순히 “스팸을 차단하는 것”이 아닙니다. 원치 않는 메일을 찾아내면서 오탐, 즉 실제 메시지를 잘못 스팸으로 표시하는 경우를 줄이는 것입니다.
입력은 수신 메시지와 서비스가 이용할 수 있는 신호입니다. 여기에는 메시지의 본문, 발신자 정보, 링크, 첨부 파일의 속성 등이 포함될 수 있습니다.
방법에는 이전에 라벨이 지정된 메시지에서 패턴을 학습한 모델이 포함될 수 있습니다. 알려진 악성 발신자나 안전하지 않은 파일 형식에 적용되는 고정 규칙도 포함될 수 있습니다.
모델이 어떤 메시지에 스팸 점수 0.94를 부여했다고 가정해 보겠습니다. 이 숫자가 바로 출력입니다. 이 값은 메시지에 관한 사실이 아니며, 보정이 잘 된 확률일 필요도 없습니다.
서비스는 메일을 정크 메일함으로 이동시키는 임계값으로 0.90을 선택했습니다. 0.94가 이 임계값보다 높으므로, 이를 둘러싼 소프트웨어가 조치를 취합니다. 그
이제 임계값만 0.90에서 0.95로 바꿔 보겠습니다. 동일한 모델 출력이 더 이상 메시지를 이동시키지 않습니다. 모델은 바뀌지 않았지만 제품은 다르게 작동합니다.
이것이 핵심적인 구분입니다. AI 구성 요소는 입력에서 점수를 도출했습니다. 사람과 일반적인 소프트웨어가 그 점수가 사용자에게 어떤 영향을 미칠지 결정했습니다. “스팸 아님”과 같은 피드백은 이후 업데이트를 위해 저장될 수 있지만, 버튼을 클릭하는 순간 시스템이 반드시 스스로 다시 작성되는 것은 아닙니다.
AI가 중요한 이유
사람이 중요한 모든 경우를 미리 명시할 수 있을 때 일반적인 소프트웨어는 뛰어난 성능을 발휘합니다. 입력이 지나치게 다양하거나, 관련 패턴을 완전한 지침으로 작성하기 어렵거나, 시스템이 불확실한 결과 중에서 선택해야 할 때 AI 방법이 유용해집니다.
따라서 AI는 음성 인식, 검색 결과 순위 지정, 비정상 거래 탐지, 항목 추천, 경로 계획, 미디어 생성과 같은 작업에 유용합니다. 이러한 작업은 서로 달라 보이지만, 각각을 목표를 위해 입력에서 출력을 도출하는 시스템으로 설명할 수 있습니다.
이러한 유연성은 위험도 만듭니다. AI 시스템은 반복되어서는 안 되는 패턴을 반복하거나, 익숙하지 않은 입력에서 실패하거나, 사람이 실제로 필요로 하는 것과 일치하지 않는 측정 가능한 목표를 최적화할 수 있습니다. 또한 출력이 오류로 인한 피해를 바꾸는 규모나 환경에서 사용될 수도 있습니다. 모델만 평가하면 이러한 시스템 수준의 선택을 놓치게 됩니다.
흔한 오해
AI는 챗봇 또는 대규모 언어 모델을 의미한다
챗봇은 제품 인터페이스이고, 대규모 언어 모델은 한 종류의 모델입니다. AI는 더 넓은 분야입니다. AI에는 지각, 계획, 예측, 제어, 추천 및 기타 작업을 위한 시스템도 포함됩니다.
AI와 머신러닝은 동일하다
머신러닝은 AI 안에서 사용되는 주요 접근법이지, AI와 동의어가 아닙니다. AI 분야에는 논리, 검색, 계획, 지식 기반 방법의 오랜 역사도 있습니다. 현대의 제품은 여러 접근법을 결합하는 경우가 많습니다.
AI는 사람처럼 생각해야 한다
어떤 시스템을 AI라고 부른다고 해서 그 시스템이 의식이 있거나, 자기 인식이 있거나, 인간적인 방식으로 추론한다는 뜻은 아닙니다. 정의는 보통 능력이나 행동에 초점을 맞춥니다. 어떤 시스템은 한 가지 작업을 매우 잘 수행하면서도 사람이 쉽게 해내는 많은 일을 실패할 수 있습니다.
AI는 모든 상호작용에서 자동으로 학습한다
배포 후 적응하는 시스템도 있지만, 그렇지 않은 시스템이 더 많습니다. 배포된 모델은 개발자가 데이터를 수집하고, 새 버전을 평가하고, 업데이트를 출시할 때까지 변경되지 않는 경우가 많습니다. 피드백을 저장하는 것과 그 피드백에서 학습하는 것은 별개의 단계입니다.
수학을 사용하므로 AI는 객관적이다
사람이 목표, 예시, 라벨, 측정 방법, 임계값, 배포 규칙을 선택합니다. 이러한 선택에는 불완전한 가정이나 서로 충돌하는 가치가 반영될 수 있습니다. 수학은 방법을 형식화할 뿐, 판단을 없애지는 않습니다.
모든 자동화는 AI다
한 필드의 값을 다른 필드로 복사하는 고정 스크립트는 자동화이지만, 이를 AI라고 부르는 정의는 거의 없습니다. 더 어려운 사례는 논쟁의 여지가 있습니다. 역사적으로 AI에는 규칙 기반 전문가 시스템이 포함되지만, 현재의 정책상 정의는 사람이 완전히 지정한 규칙을 단순히 실행하는 것 이상의 추론을 요구하는 경우가 많습니다. 따라서 정확한 명칭은 그 구분이 중요한 이유에 따라 달라질 수 있습니다.
더 넓은 시스템에서 AI가 차지하는 위치
AI는 서로 관련된 용어들로 이루어진 계열에서 가장 넓은 개념입니다.
- 머신러닝은 데이터나 경험에서 행동을 구성하는 AI 접근법입니다.
- 신경망은 머신러닝에서 흔히 사용되는 모델 계열 중 하나입니다.
- AI 모델은 입력을 출력으로 매핑하는 구성 요소이며, 반드시 완전한 제품 전체를 의미하지는 않습니다.
- 생성형 AI는 텍스트, 이미지, 오디오, 동영상과 같은 새로운 콘텐츠를 생성합니다.
- AI 챗봇은 하나 이상의 모델을 중심으로 대화형 인터페이스와 제품 로직을 결합한 것입니다.
- AI 에이전트는 목표를 향해 단계를 선택하고 실행할 수 있는 시스템 안에서 AI를 사용합니다.
이러한 범주는 “덜 지능적인 것”에서 “더 지능적인 것”으로 이어지는 단계가 아닙니다. 서로 다른 방법, 구성 요소, 출력, 시스템 설계를 설명하는 범주입니다.
다음에 읽을 내용
현대 AI의 상당 부분을 뒷받침하는 접근법을 이해하려면 머신러닝이란 무엇인가요?를 읽어 보세요. 그런 다음 모델과 모델을 사용하는 더 큰 시스템을 구분하려면 AI 모델이란 무엇인가요?를 읽어 보세요. 텍스트, 이미지, 오디오, 동영상을 만드는 시스템에 관심이 있다면 생성형 AI란 무엇인가요?로 계속 진행하세요.