AI 시스템, 오케스트레이션과 에이전트

모델을 둘러싼 소프트웨어: 채팅 인터페이스, 도구 사용, 검색 증강, 오케스트레이션, 에이전트가 모델을 실제 작동하는 AI 시스템으로 만드는 방식을 설명합니다.

학습

AI 시스템, 오케스트레이션과 에이전트

비교AI 모델 vs. 챗봇 vs. 하네스 vs. 에이전트AI 모델은 출력을 생성하는 구성 요소이고, 챗봇은 대화형 애플리케이션이며, 하네스는 컨텍스트와 실행을 관리하는 모델 주변의 소프트웨어이고, 에이전트는 이러한 요소를 사용해 단계를 선택하고 수행하는 목표 지향 시스템입니다. 이들은 서로 겹치는 계층이지, 서로 경쟁하는 네 가지 종류의 AI가 아닙니다.
개념AI 에이전트란 무엇인가요?AI 에이전트는 AI 모델을 사용해 다음 행동을 선택하고, 결과를 관찰하며, 작업을 완료하거나 도움이 필요하거나 한도에 도달할 때까지 계속함으로써 목표를 추구하는 소프트웨어 시스템입니다. 단순히 답변만 생성하는 모델과 달리, 에이전트는 정해진 권한 범위 내에서 도구를 통해 행동하고 여러 단계로 이루어진 프로세스를 제어할 수 있습니다.
개념AI 챗봇이란 무엇인가요?AI 챗봇은 인공지능을 사용해 텍스트나 음성으로 사람과 대화하는 소프트웨어 애플리케이션입니다. 메시지를 받고, AI 모델을 사용해 메시지를 해석하거나 답변하며, 대화를 계속하는 데 필요한 맥락, 규칙, 데이터, 작업을 관리합니다.
개념AI 하니스란 무엇인가요?AI 하니스는 AI 모델을 둘러싸고 모델이 무엇을 입력받는지, 출력에 어떤 일이 일어나는지, 모델이 애플리케이션의 나머지 부분과 어떻게 연결되는지를 제어하는 소프트웨어입니다. 대화 기록을 관리하는 작은 코드일 수도 있고, 도구, 메모리, 권한, 재시도, 장시간 실행되는 작업을 관리하는 런타임처럼 큰 시스템일 수도 있습니다.
개념LLM의 도구 사용이란 무엇인가요?LLM의 도구 사용은 언어 모델이 데이터베이스 검색, 계산 실행, 메시지 전송과 같은 외부 작업을 요청하고, 반환된 결과를 응답에 활용할 수 있게 하는 메커니즘입니다. 일반적으로 모델이 도구를 선택하고 입력값을 제안하면, 모델을 둘러싼 소프트웨어가 해당 호출을 실행할지 결정합니다.