AI 에이전트에 대한 보편적인 정의는 없습니다.AI 에이전트의 오래된 의미에는 환경을 인식하고 그 안에서 행동하는 모든 AI 시스템이 포함됩니다. 현재의 소프트웨어 제품에서 이 용어는 일반적으로 모델이 워크플로의 적어도 일부를 지시하는 시스템을 의미합니다. 이 페이지에서는 이러한 현대적이고 더 좁은 의미를 사용합니다.
가장 간단한 사고방식
에이전트에게 모든 단계를 지정하는 대신 원하는 결과를 알려줍니다.
일반적인 자동화에 송장을 처리하도록 요청한다면, 개발자는 이미 경로를 작성해 둔 상태입니다. 즉, 이 필드를 읽고, 이 규칙을 적용하고, 이 시스템을 업데이트하는 식입니다. 반면 에이전트에게 송장 문제를 해결하도록 요청하면, 모델은 송장을 검사하고, 구매 주문서를 조회하고, 불일치를 발견하고, 누락된 증빙을 요청한 다음, 기록을 업데이트할지 문제를 상위 담당자에게 넘길지를 선택할 수 있습니다.
차이는 에이전트가 원하는 대로 무엇이든 할 수 있다는 데 있지 않습니다. 차이는 다음에 일어날 일을 제한된 범위에서 제어할 수 있다는 데 있습니다.
유용한 판단 기준은 다음과 같습니다.
시스템이 결과를 받은 후 다음 단계를 선택하는 주체는 누구인가?
항상 고정된 코드가 선택한다면, 그 시스템은 주로 워크플로입니다. 결과에 따라 모델이 다른 행동을 선택할 수 있다면, 그 시스템에는 에이전트와 같은 제어 기능이 있습니다. 실제 제품은 두 방식을 함께 사용할 수 있습니다. 예를 들어 고정된 코드는 승인과 결제를 처리하고, 모델은 예외 상황을 조사할 방법을 결정할 수 있습니다.
AI 에이전트의 작동 방식
현재 대부분의 소프트웨어 에이전트는 AI 모델과 AI 하네스를 결합합니다. 모델은 상황을 해석하고 무엇을 할지 제안합니다. 하네스는 컨텍스트를 제공하고, 허용된 도구를 노출하며, 승인된 행동을 실행하고, 상태를 기록하고, 한도를 적용합니다.
기본 루프는 다음과 같습니다.
Goal, context, and limits
|
v
Model chooses a next step <------------------+
| |
v |
Harness checks and executes the action |
| |
v |
Environment returns an observation ----------+
|
v
Finish, ask for help, or stop at a limit1. 에이전트가 목표를 받습니다
목표는 원하는 결과를 설명합니다. 지침에는 무엇을 변경할 수 있는지, 무엇에 승인이 필요한지, 무엇을 완료로 간주하는지와 같은 제약 조건이 추가됩니다. “계속 시도하라”는 안전하거나 유용한 목표가 아니므로, 명확한 중지 조건이 중요합니다.
2. 모델이 다음 단계를 선택합니다
모델은 목표와 현재 상태를 받습니다. 모델은 답변하거나, 질문하거나, 도구를 선택하거나, 진행할 수 없다고 판단할 수 있습니다. 계획을 세우거나 수정할 수도 있지만, 모든 에이전트에 상세한 계획이 필요한 것은 아닙니다.
3. 하네스가 행동을 처리합니다
도구는 시스템이 정보를 가져오거나 모델 외부의 무언가를 변경하는 데 사용할 수 있는 인터페이스입니다. 기록을 검색하거나, 코드를 실행하거나, 캘린더를 읽거나, 업데이트를 제출하는 도구가 있을 수 있습니다.
일반적으로 모델은 도구 이름과 입력값을 제안합니다. 하네스는 해당 요청을 검증하고, 권한을 확인하며, 필요한 경우 승인을 요청하고, 실제 코드를 실행합니다. 이러한 분리는 생성된 지시가 자동으로 승인된 행동이 되는 것을 방지합니다.
4. 환경이 증거를 반환합니다
도구의 결과는 관찰 결과가 됩니다. 검색 결과, 오류, 테스트 보고서, 확인 번호 또는 모델 외부에서 얻은 다른 증거가 이에 해당합니다. 모델은 이 관찰 결과를 사용해 다시 선택합니다.
이 피드백이 루프를 완성합니다. 피드백이 없으면 실제로 무엇인가 일어났는지 알지 못한 채 시스템이 성공에 대한 그럴듯한 설명만 생성할 수 있습니다.
5. 루프가 중지됩니다
에이전트는 완료 조건에 도달하거나, 더 이상 진행할 수 없거나, 사람의 결정이 필요하거나, 한도에 도달하면 종료됩니다. 한도에는 허용된 행동, 경과 시간, 단계 수 또는 리소스 사용량이 포함될 수 있습니다. 안전하게 멈출 수 있는 에이전트가 그저 계속 행동하는 에이전트보다 더 잘 설계된 것입니다.
작동 예시
배달 에이전트에게 다음과 같이 요청한다고 가정해 보겠습니다.
화요일 식료품 배달을 내가 집에 있는 시간으로 변경해 줘. 상품은 변경하지 마.
에이전트는 가능한 모든 캘린더 및 배송 상태에 대해 하드코딩된 스크립트를 마련할 필요가 없습니다.
- 에이전트는 현재 예약을 가져오고, 요청한 주문이 화요일로 예약되어 있는지 확인합니다.
- 하네스가 사용 권한을 부여한 도구를 통해 캘린더를 읽습니다.
- 관찰 결과, 현재 배송 시간이 일정과 겹친다는 사실이 나타납니다.
- 배송 서비스에 화요일에 가능한 시간대를 요청합니다.
- 이 결과를 캘린더와 비교하고, 일정과 겹치지 않는 옵션을 선택합니다.
- 하네스는 일정 변경이 외부 기록을 변경한다는 사실을 확인하고, 사용자의 승인을 받기 위해 일시 중지합니다.
- 승인을 받은 후 하네스가 변경 사항을 제출합니다.
- 배송 서비스가 확인 정보를 반환합니다. 에이전트는 날짜, 시간대, 상품 목록이 원래 요청을 충족하는지 확인한 다음 중지합니다.
유효한 시간대가 없다면 모델은 수요일도 괜찮은지 물어볼 수 있습니다. 캘린더 도구에 오류가 발생하면 사용자의 가능한 시간을 물어볼 수 있습니다. 이미 배송이 시작되었다면 성공한 결과를 지어내는 대신 무엇이 작업을 막고 있는지 설명해야 합니다.
이러한 분기에서 에이전트의 특성이 드러납니다. 고정된 워크플로도 동일한 정상 경로의 단계를 수행할 수 있지만, 모델이 지시하는 시스템은 각 관찰 결과에 따라 새로운 경로를 선택할 수 있습니다.
AI 에이전트가 중요한 이유
목표는 명확하지만 필요한 단계가 달라질 때 에이전트가 유용합니다. 사람에게 매 단계마다 새로운 지시를 내리도록 요구하지 않고도 누락된 정보, 도구 오류, 변화하는 조건을 처리할 수 있습니다.
이러한 유연성에는 비용이 따릅니다. 모델의 각 결정은 시간과 리소스를 추가로 사용합니다. 이른 단계에서 잘못된 행동을 하면 이후의 모든 단계에 영향을 줄 수도 있습니다. 시스템에 더 많은 도구를 제공하면 시스템이 달성할 수 있는 일이 늘어나지만, 손상을 일으킬 수 있는 범위도 넓어집니다.
따라서 실질적인 질문은 “얼마나 자율적으로 만들 수 있는가?”가 아닙니다. “시스템이 어떤 선택을 안전하게 할 수 있으며, 어디에서 고정 규칙이나 사람의 승인이 대신 개입해야 하는가?”가 핵심입니다. 개방형 조사는 여러 단계의 자기 주도적 행동을 허용할 수 있습니다. 하지만 송금, 데이터 삭제 또는 구속력 있는 결정은 일반적으로 더 엄격한 경계가 필요합니다.
흔한 오해
“AI 모델이 있는 앱은 모두 에이전트다”
모델은 한 번의 호출로 문서를 요약하거나 메시지에 답할 수 있습니다. 이는 AI 기반 기능이지만 반드시 에이전트인 것은 아닙니다. 더 강력한 신호는 프로세스에 대한 모델 지시형 제어입니다. 즉, 행동을 선택하고, 관찰 결과를 받고, 다음에 무엇을 할지 결정하는 것입니다.
“도구를 한 번 호출하면 에이전트다”
챗봇이 항상 동일한 날씨 함수를 호출한 다음 결과를 표시할 수 있습니다. 이러한 경로는 일반적인 자동화일 수 있습니다. 도구의 결과가 모델이 다음에 할 일을 결정하는 방식을 바꿀 수 있을 때, 해당 도구는 에이전트 루프의 일부가 됩니다.
“에이전트는 그저 더 똑똑한 모델이다”
모델의 능력도 도움이 되지만, 에이전트는 시스템입니다. 모델이 자체적으로 데이터베이스 자격 증명을 만들거나, 자체 코드를 실행하거나, 스스로 권한을 부여할 수는 없습니다. 하네스와 도구 인터페이스가 제안된 행동 중 무엇을 실제 행동으로 바꿀 수 있는지 결정합니다.
“자율적이라는 것은 감독이 없다는 뜻이다”
자율성은 켜짐과 꺼짐으로 나뉘는 속성이 아니라 정도의 문제입니다. 에이전트는 독립적으로 선택지를 조사하고, 중요한 변경을 하기 전에 일시 중지하며, 증거가 부족할 때 제어권을 돌려줄 수 있습니다. 체크포인트와 에스컬레이션은 설계의 일부이며, 시스템이 더 이상 에이전트가 아니라는 증거가 아닙니다.
“에이전트는 항상 경험을 통해 학습한다”
일부 에이전트는 실행 간에 정보를 저장합니다. 다른 에이전트는 작업이 끝나면 모든 것을 잊습니다. 메모리와 학습은 에이전트의 행동 범위를 확장할 수 있지만, 목표 지향적 행동이 둘 중 어느 하나를 보장하는 것은 아닙니다.
“자신감 있는 응답은 작업이 완료되었다는 뜻이다”
언어 모델은 가능성이 높은 출력을 생성합니다. 작업 완료는 외부의 사실입니다. 신뢰할 수 있는 에이전트는 성공을 보고하기 전에 영수증, 파일 상태, 테스트 결과 또는 다른 관찰 결과를 확인합니다.
AI 시스템에서 에이전트의 위치
모델, 하네스, 에이전트는 서로 관련되어 있지만 서로 바꿔 사용할 수 있는 개념은 아닙니다.
- 모델모델은 받은 컨텍스트를 바탕으로 텍스트나 구조화된 선택지를 생성합니다.
- 하네스하네스는 모델을 지침, 상태, 도구, 권한, 승인 및 로그에 연결합니다.
- 에이전트에이전트는 모델이 이러한 장치를 사용해 피드백을 바탕으로 프로세스를 지시할 수 있을 때 나타나는 목표 지향적 시스템입니다.
챗봇은 에이전트의 인터페이스일 수 있지만, 대화만으로 챗봇이 에이전틱해지는 것은 아닙니다. 에이전트는 채팅 창 없이 백그라운드에서 실행될 수도 있습니다.
이 경계는 부분적으로 편집상의 문제입니다. 일부 소프트웨어 프레임워크는 구성된 모델 구성 요소를 “에이전트”라고 부르는 반면, 다른 프레임워크는 실행 중인 전체 루프에만 이 용어를 사용합니다. 제품을 평가할 때는 명칭을 무시하고 행동을 살펴보세요. 어떤 목표를 받는지, 어떤 행동을 할 수 있는지, 각 다음 단계를 누가 선택하는지, 어떤 증거를 관찰하는지, 무엇이 시스템을 멈추게 하는지를 확인해야 합니다.
다음 단계
선택을 수행하는 구성 요소를 이해하려면 AI 모델이란 무엇인가요?를 읽어 보세요. 그런 다음 도구, 상태, 권한 및 실행을 제공하는 주변 시스템에 대해서는 AI 하네스란 무엇인가요?를 읽어 보세요. 행동 루프에 대해서는 LLM의 도구 사용이란 무엇인가요?를 계속 읽거나, 전체 스택을 비교하려면 AI 모델 vs. 챗봇 vs. 하네스 vs. 에이전트를 활용하세요.