聊天机器人是一个系统，而不仅仅是一个模型
最简单且有用的思维模型，是把它看作一个围绕对话构建的应用程序。
你看到的是一个消息框和一串回复。在这个界面背后，多个部分协同工作：
Your message
↓
Chat application loads instructions and conversation state
↓
AI model interprets the request or drafts a response
↓
Application may retrieve data or use another service
↓
Rules and safety checks run
↓
Reply appears and selected state is saved许多现代聊天机器人使用的 LLM 是这条处理路径中的一个组件。它负责生成或理解语言。聊天机器人则是更大的产品：它决定模型能看到什么，将模型连接到信息源，显示模型的输出，并处理模型无法安全完成请求时的后续操作。
并非所有 AI 聊天机器人都使用 LLM。面向特定任务的聊天机器人可以使用机器学习来对用户意图进行分类，并从消息中提取详细信息。基于 LLM 的聊天机器人则可以根据指令和上下文生成新的回复。许多生产环境中的聊天机器人会将生成式语言与固定规则结合起来，以便对需要可预测行为的任务进行处理。
AI 聊天机器人如何工作
每条消息都会开启一个新的轮次。一个典型轮次包含六个阶段。
1. 接收消息
渠道可能是网站、移动应用、消息服务或语音界面。如果用户通过语音交流，语音识别软件会先将音频转换为文本。
2. 加载对话状态
应用程序会加载它选择保留的信息。这些信息可能包括最近的消息、较早消息的简短摘要、用户的账户状态，或任务的完成进度。
聊天机器人之所以看起来像是记得之前的内容，就是因为这个过程。模型不会自动保留每次早先调用的私有记忆。应用程序或模型服务必须存储相关状态，并在后续轮次再次提供这些状态。
3. 理解请求
基于意图的聊天机器人会将消息映射到已知目标，例如 track_order，并提取所需详细信息，例如订单号。如果缺少必需信息，它会遵循对话规则询问该信息。
基于 LLM 的聊天机器人会接收一组输入，其中可能包括产品指令、用户消息、选定的对话历史记录以及相关记录。然后，它会生成下一条回复。这组输入由应用程序组装，而不是由面向用户的聊天框组装。
4. 获取信息或执行受限操作
聊天机器人可能会搜索获准的知识库、查询订单、创建支持工单或调用其他服务。这些连接属于独立的能力。语言模型并不会仅仅因为聊天机器人能够讨论某个数据库的内容，就自动获得该数据库的访问权限。
周边软件应在公开数据或进行任何更改之前，检查用户的身份以及用户获准执行的操作。
5. 检查并返回回复
应用程序可以拒绝不安全的请求、删除缺乏依据的内容、要求进行固定格式的确认，或将对话转交给人工。某些回复由模型撰写，另一些则是用经过验证的数据填充模板生成的。同一段对话可以同时使用这两种方式。
6. 保存下一轮所需的信息
聊天机器人会保存选定的消息、任务进度或摘要，以供之后使用。它也可能记录质量信号以便审核。为未来可能的改进而保存对话，并不等同于在对话过程中重新训练模型。
示例：更改配送地址
假设你写道：
你： 订单 4821 到哪儿了？
聊天机器人： 它已经打包，但还没有发货。
聊天机器人可能已经验证了你的账户，提取出 4821，检索订单记录，并将经过验证的状态转换成简短回复。
然后你写道：
你： 我可以更改它的配送地址吗？
只有结合上一轮对话，“它”才有明确含义。聊天机器人应用会提供相关状态：当前订单是 4821。它还会检索相关规则：只有在发货前才能更改地址。
系统现在掌握了订单及其状态，但还不知道新的地址。设计良好的聊天机器人不会猜测或声称操作成功，而是会询问缺失的信息：
聊天机器人： 可以。订单 4821 尚未发货，因此仍然可以更改地址。你希望使用哪个地址？
你提供地址后，应用程序可以对地址进行验证，并在提交更新前显示最终确认。如果订单已经发货，它可以说明这一限制，或将对话转交给支持人员。
这段交流感觉像是一个连续的对话。在软件中，它其实是一系列独立的轮次，通过存储的状态、数据查询、业务规则和明确的失败处理路径连接起来。
AI 聊天机器人为何重要
聊天机器人将僵化的界面变成了灵活的语言界面。你不必寻找正确的菜单、表单或搜索短语，而是可以用自己的话描述需求。通过后续消息，你可以逐步细化请求，而不必重新开始。
这种灵活性对于支持、信息检索、信息采集和引导式任务很有用。但它也带来了风险。生成的语言可能在错误时听起来很确定。聊天机器人可能误解代词所指的对象，检索错误的记录，或试图处理超出其许可范围的请求。
因此，聊天机器人的质量不只取决于模型，还取决于它能够访问的信息、状态管理方式、允许执行的操作、处理不确定性的方式，以及是否有明确的人工转接渠道。
常见误解
“聊天机器人就是 LLM”
LLM 可以根据输入生成文本。聊天机器人则增加了对话界面、指令、状态、数据连接、权限、检查机制和产品行为。更换模型可能改变聊天机器人的性能，但不必替换整个聊天机器人。
“它记得我说过的所有话”
聊天机器人只会记住其设计和数据策略所保留并重新提供的信息。它可能接收完整历史记录、缩短后的摘要、选定的事实，或者完全没有早先的上下文。新会话的行为可能与持续进行的会话不同。
“它会从每次对话中学习”
通常不会。聊天机器人一般不会在与你聊天的过程中更新模型。运营人员可能会审核日志、收集评分、修改指令、更新源材料，或训练后续模型。这些是彼此独立的过程。
“自然的回答就是经过验证的回答”
流畅性是措辞的属性，并不能证明陈述正确。聊天机器人可能生成看似合理的说法，却没有核查来源。对于高风险或特定账户相关的回答，有用的依据包括引文、经过验证的记录、确认信息和明确的限制说明。
“每个 AI 聊天机器人都是 AI 智能体”
这些标签有所重叠，而且不同供应商的用法也不同。聊天机器人主要以对话为定义。通常认为，智能体应当能够更加自主地为实现某个目标选择并执行多个步骤。聊天机器人可以执行受限操作，但这并不意味着它就成为自主智能体。
聊天机器人如何融入更广泛的 AI 系统
模型是语言引擎。聊天机器人是围绕模型构建的对话产品。Harness 负责协调指令、状态、数据、模型调用和获准执行的操作。智能体可能使用相同的组成部分，但在多步骤任务中采取更多主动行动。
这些是不同的层，而不是互相排斥的产品标签。一个产品可以提供聊天机器人界面，将 LLM 用作模型，依靠 harness 协调每个轮次，并开放一些类似智能体的操作。真正有用的问题不是营销页面如何称呼它，而是：状态存储在哪里？系统可以访问哪些数据？它能够执行哪些操作？哪些决策需要确认？
接下来阅读什么
阅读 什么是 LLM？，了解许多当前聊天机器人内部使用的语言模型。阅读 什么是 AI Harness？，了解围绕该模型管理上下文、工具和控制机制的软件层。然后使用 AI 模型 vs. 聊天机器人 vs. Harness vs. 智能体，区分产品描述经常混在一起的各个层次。