AI 系统、编排与智能体

模型之外的软件：聊天界面、工具调用、检索增强、编排框架和智能体，如何把一个模型变成可用的 AI 系统。

学习

AI 系统、编排与智能体

比较AI 模型 vs. 聊天机器人 vs. Harness vs. AgentAI 模型是生成输出的组件；聊天机器人是对话式应用；harness 是围绕模型、管理上下文和执行的软件；agent 是利用这些组件来选择并执行步骤的目标导向系统。它们是相互重叠的层次，而不是四种彼此竞争的 AI 类型。
概念什么是 AI Harness？AI harness 是围绕 AI 模型的软件，用于控制模型接收什么、如何处理模型的输出，以及模型如何连接到应用程序的其他部分。它可以小到只是管理聊天历史记录的代码，也可以大到管理工具、记忆、权限、重试和长时间运行任务的运行时。
概念什么是 AI 智能体？AI 智能体是一种软件系统，它使用 AI 模型选择下一步行动、观察结果，并持续执行，直到完成任务、需要帮助或达到限制。不同于只能生成答案的模型，智能体可以控制多步骤流程，并在既定权限范围内通过工具采取行动。
概念什么是 AI 聊天机器人？AI 聊天机器人是一种利用人工智能，通过文本或语音与人进行对话的软件应用。它接收消息，使用 AI 模型对消息进行理解或回答，并管理继续对话所需的上下文、规则、数据和操作。
概念什么是 LLM 中的工具使用？LLM 中的工具使用是一种机制，使语言模型能够请求外部操作（例如搜索数据库、执行计算或发送消息），并在其响应中使用返回的结果。模型通常会选择工具并提供拟议的输入；模型周围的软件则决定是否执行该调用。