Um chatbot é um sistema, não apenas um modelo
O modelo mental útil mais simples é o de um aplicativo estruturado em torno de uma conversa.
Você vê uma caixa de mensagens e um fluxo de respostas. Por trás dessa interface, várias partes trabalham em conjunto:
Your message
↓
Chat application loads instructions and conversation state
↓
AI model interprets the request or drafts a response
↓
Application may retrieve data or use another service
↓
Rules and safety checks run
↓
Reply appears and selected state is savedO LLM usado por muitos chatbots modernos é um componente desse fluxo. Ele gera ou interpreta linguagem. O chatbot é o produto maior que decide o que o modelo verá, conecta o modelo a informações, exibe a saída e lida com o que acontece quando o modelo não pode concluir uma solicitação com segurança.
Nem todo chatbot de IA usa um LLM. Um chatbot focado em tarefas pode usar aprendizado de máquina para classificar o que uma pessoa deseja e extrair detalhes da mensagem. Um chatbot baseado em LLM pode gerar uma nova resposta a partir de instruções e contexto. Muitos chatbots de produção combinam linguagem gerada com regras fixas para tarefas que exigem um comportamento previsível.
Como funciona um chatbot de IA
Cada mensagem inicia uma nova rodada. Uma rodada típica tem seis etapas.
1. Receber a mensagem
O canal pode ser um site, aplicativo móvel, serviço de mensagens ou interface de voz. Se a pessoa falar, um software de reconhecimento de fala primeiro transforma o áudio em texto.
2. Carregar o estado da conversa
O aplicativo carrega as informações que decidiu manter. Isso pode incluir mensagens recentes, um breve resumo de mensagens mais antigas, o status da conta do usuário ou o progresso em uma tarefa.
É assim que um chatbot parece se lembrar. O modelo não retém automaticamente uma memória privada de cada chamada anterior. O aplicativo ou serviço do modelo precisa armazenar o estado relevante e fornecê-lo novamente em uma rodada posterior.
3. Interpretar a solicitação
Um chatbot baseado em intenções mapeia a mensagem para um objetivo conhecido, como track_order, e extrai os detalhes necessários, como um número de pedido. Se faltar um detalhe obrigatório, ele segue uma regra de diálogo e solicita esse detalhe.
Um chatbot baseado em LLM recebe um conjunto de entradas que pode incluir instruções do produto, a mensagem do usuário, um histórico selecionado da conversa e registros relevantes. Em seguida, gera a próxima resposta. É o aplicativo, e não a caixa de chat voltada ao usuário, que monta esse conjunto.
4. Obter informações ou executar uma ação limitada
Um chatbot pode pesquisar em uma base de conhecimento aprovada, consultar um pedido, criar um chamado de suporte ou chamar outro serviço. Essas conexões são capacidades distintas. O modelo de linguagem não passa a ter acesso a um banco de dados apenas porque o chatbot consegue discutir o conteúdo dele.
O software ao redor deve verificar quem é o usuário e o que ele tem permissão para fazer antes de expor dados ou alterar qualquer coisa.
5. Verificar e retornar a resposta
O aplicativo pode rejeitar solicitações inseguras, remover conteúdo sem suporte, exigir uma confirmação predefinida ou encaminhar a conversa para uma pessoa. Algumas respostas são redigidas por um modelo. Outras são modelos preenchidos com dados verificados. Uma única conversa pode usar ambos.
6. Salvar o que será necessário na próxima rodada
O chatbot salva mensagens selecionadas, o progresso da tarefa ou um resumo para uso posterior. Ele também pode registrar indicadores de qualidade para análise. Salvar uma conversa para possível melhoria futura não é o mesmo que retreinar o modelo durante a conversa.
Exemplo prático: alterar um endereço de entrega
Suponha que você escreva:
Você: Onde está o pedido 4821?
Chatbot: Ele foi embalado, mas ainda não foi enviado.
O chatbot pode ter autenticado sua conta, extraído 4821, recuperado o registro do pedido e transformado o status verificado em uma resposta curta.
Então você escreve:
Você: Posso alterar o endereço de entrega dele?
“Dele” só faz sentido por causa da rodada anterior. O aplicativo do chatbot fornece o estado relevante: o pedido atual é o 4821. Ele também recupera a regra de que um endereço só pode ser alterado antes do envio.
O sistema agora tem o pedido e o status dele, mas não tem o novo endereço. Um chatbot bem projetado não deve adivinhar nem afirmar que a alteração foi realizada. Ele solicita a informação que falta:
Chatbot: Sim. O pedido 4821 ainda não foi enviado, então o endereço ainda pode ser alterado. Qual endereço devo usar?
Depois que você fornecer o endereço, o aplicativo poderá validá-lo e exibir uma confirmação final antes de enviar a atualização. Se o pedido já tivesse sido enviado, ele poderia explicar a limitação ou encaminhar a conversa ao suporte.
Essa troca parece uma única conversa contínua. No software, ela é uma sequência de rodadas separadas, unidas por estado armazenado, consultas de dados, regras de negócio e caminhos explícitos para lidar com falhas.
Por que os chatbots de IA são importantes
Um chatbot transforma uma interface rígida em uma interface de linguagem flexível. Em vez de encontrar o menu, formulário ou frase de pesquisa correta, você pode descrever o que precisa com suas próprias palavras. Mensagens de acompanhamento permitem refinar a solicitação sem começar de novo.
Essa flexibilidade é útil para suporte, recuperação de informações, coleta de dados e tarefas guiadas. Ela também cria riscos. A linguagem gerada pode soar certa quando está errada. O chatbot pode interpretar incorretamente a que um pronome se refere, recuperar o registro errado ou tentar lidar com uma solicitação fora do escopo permitido.
Portanto, a qualidade de um chatbot depende de mais do que o modelo. Ela depende das informações às quais ele pode ter acesso, de como o estado é gerenciado, de quais ações são permitidas, de como a incerteza é tratada e de existir ou não um caminho claro até uma pessoa.
Equívocos comuns
“O chatbot é o LLM”
Um LLM pode produzir texto a partir de uma entrada. Um chatbot adiciona a interface de conversa, as instruções, o estado, as conexões de dados, as permissões, as verificações e o comportamento do produto. Alterar o modelo pode mudar o desempenho do chatbot sem substituir o chatbot inteiro.
“Ele se lembra de tudo o que eu disse”
Um chatbot só se lembra do que seu projeto e sua política de dados preservam e reintroduzem. Ele pode receber o histórico completo, um resumo reduzido, fatos selecionados ou nenhum contexto anterior. Uma nova sessão pode se comportar de maneira diferente de uma sessão em andamento.
“Ele aprende com cada conversa”
Normalmente, ele não atualiza o modelo durante a sua conversa. Os operadores podem revisar registros, coletar avaliações, alterar instruções, atualizar o material de origem ou treinar um modelo posterior. Esses são processos distintos.
“Uma resposta natural é uma resposta verificada”
Fluência é uma propriedade da forma de expressão, não uma prova da afirmação. Um chatbot pode gerar uma declaração plausível sem consultar uma fonte. Para respostas importantes ou específicas da conta, evidências úteis incluem citações, registros verificados, confirmações e limites claros.
“Todo chatbot de IA é um agente de IA”
Os termos se sobrepõem, e os fornecedores os usam de maneiras diferentes. Um chatbot é definido principalmente pela conversa. Em geral, espera-se que um agente escolha e execute várias etapas para atingir um objetivo com mais independência. Um chatbot pode executar uma ação limitada sem se tornar um agente autônomo.
Como um chatbot se encaixa em um sistema de IA mais amplo
O modelo é o mecanismo de linguagem. O chatbot é o produto conversacional construído ao redor dele. Um harness coordena instruções, estado, dados, chamadas ao modelo e ações permitidas. Um agente pode usar as mesmas partes ao tomar mais iniciativa em uma tarefa de várias etapas.
Essas são camadas, não rótulos de produtos mutuamente excludentes. Um produto pode apresentar uma interface de chatbot, usar um LLM como modelo, depender de um harness para coordenar cada rodada e oferecer algumas ações semelhantes às de um agente. A pergunta útil não é como a página de marketing o chama. Pergunte onde o estado fica, a quais dados o sistema pode ter acesso, quais ações ele pode executar e quais decisões exigem confirmação.
Próximos passos
Leia O que é um LLM? para conhecer o modelo de linguagem usado em muitos chatbots atuais. Leia O que é um harness de IA? para conhecer a camada de software que gerencia o contexto, as ferramentas e os controles ao redor desse modelo. Em seguida, use Modelo de IA vs. chatbot vs. harness vs. agente para distinguir as camadas que as descrições de produtos frequentemente misturam.