Sistemas de IA, orquestração e agentes

O software ao redor do modelo: interfaces de chat, uso de ferramentas, recuperação de informação, orquestração e agentes que transformam um modelo em um sistema de IA funcional.

Aprender

Sistemas de IA, orquestração e agentes

ComparaçãoModelo de IA vs. chatbot vs. harness vs. agenteUm modelo de IA é o componente que produz saídas; um chatbot é uma aplicação conversacional; um harness é o software ao redor de um modelo que gerencia o contexto e a execução; e um agente é um sistema orientado a objetivos que usa essas peças para escolher e realizar etapas. Eles são camadas sobrepostas, não quatro tipos de IA concorrentes.
ConceitoO que é um agente de IA?Um agente de IA é um sistema de software que busca alcançar um objetivo usando um modelo de IA para escolher suas próximas ações, observar os resultados e continuar até concluir a tarefa, precisar de ajuda ou atingir um limite. Diferentemente de um modelo que apenas produz uma resposta, um agente pode controlar um processo de várias etapas e agir por meio de ferramentas dentro das permissões definidas.
ConceitoO que é um chatbot de IA?Um chatbot de IA é um aplicativo de software que usa inteligência artificial para manter uma conversa com uma pessoa por texto ou voz. Ele recebe mensagens, usa um modelo de IA para interpretá-las ou respondê-las e gerencia o contexto, as regras, os dados e as ações necessários para dar continuidade à conversa.
ConceitoO que é um harness de IA?Um harness de IA é o software ao redor de um modelo de IA que controla o que o modelo recebe, o que acontece com sua saída e como o modelo se conecta ao restante de uma aplicação. Ele pode ser tão pequeno quanto um código que gerencia um histórico de conversa ou tão grande quanto um runtime que gerencia ferramentas, memória, permissões, novas tentativas e trabalhos de longa duração.
ConceitoO que é uso de ferramentas em LLMs?O uso de ferramentas em LLMs é um mecanismo que permite a um modelo de linguagem solicitar uma operação externa — como pesquisar em um banco de dados, executar um cálculo ou enviar uma mensagem — e usar o resultado retornado em sua resposta. Em geral, o modelo escolhe a ferramenta e fornece as entradas propostas; o software ao redor do modelo decide se deve executar a chamada.