开启左侧

使用LangGraph中断构建人在回路代理

[复制链接]
创想小编 发表于 昨天 22:37 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题
作者:硅谷可控大模型智能体AI技术
代理(agents)的能力日益增强,在构建代理时,保持人在回路(human-in-the-loop)变得至关重要。 Replit公司总裁Michele Catasta在炉边谈话中, 多次强调了人类参与在代理设计中的重要性。从一开始,LangGraph公司将这一理念融入了LangGraph的设计中,这也是许多公司选择在LangGraph上构建代理的关键原因之一。
LangGraph为人类参与的工作流程而建

LangGraph通过将持久性(persistence)作为LangGraph中的一等公民来实现这一点。在图的每一步,它都会读取并写入该图状态的检查点(checkpoint)。该图状态存储了代理执行工作所需的一切。
这使得在图的执行过程中暂停并在一段时间后恢复成为可能——因为有了检查点,LangGraph可以直接从那里继续。
同样,这也允许暂停,让人类编辑检查点,然后从该更新后的检查点恢复执行。
在某种程度上,可以将这个持久性层视为人类/代理协作的草稿本。
interrupt:人在回路的新开发体验

LangGraph 之前已经有了几种构建人在回路交互的方式(如断点、NodeInterrupt)。在过去的几个月里,LangGraph 看到开发者希望实现越来越复杂的事情,因此 增加了一个新工具来帮助实现这一点。
在Python程序中构建人在回路的一种常见方式是使用input函数。使用这个函数,程序会暂停,终端会弹出一个文本框,你输入的内容将作为该函数的响应。你可以像下面这样使用它:
python
  1. response =input("Your question here")
复制代码
这是一个非常简单直观的方式来添加人在回路的功能。缺点是它是同步的,会阻塞进程,并且不适用于命令行(或笔记本)之外的环境。因此,这在生产环境中不适用。
LangGraph公司尝试通过向LangGraph添加一个新函数interrupt来模拟这种开发体验。你可以像使用input一样使用它:
python
  1. response = interrupt("Your question here")
复制代码
这是为生产环境设计的。当你这样做时,它会暂停图的执行,将你正在运行的线程标记为已中断,并将你传递给interrupt的输入放入持久性层。这样,你可以检查线程状态,看到它已被中断,检查消息,然后根据该消息以特殊方式再次调用图(graph)来传回你的响应:
  1. ```python
  2. graph.invoke(Command(resume="Your response here"), thread)
复制代码
请注意,它的功能并不完全与input相同(它会重新运行在此调用之前该节点完成的任何工作,但不会重新运行之前的节点)。这确保了中断的线程不会占用任何资源(除了存储空间),并且可以在几个月后、在不同的机器上等恢复执行。
更多信息,请查看Python和Javascript文档。
常见的人在回路工作流程

几种不同的人在回路工作流程被实现。
批准或拒绝

在关键步骤之前暂停图,例如API调用,以审查和批准操作。如果操作被拒绝,你可以阻止图执行该步骤,并可能采取替代行动。
使用LangGraph中断构建人在回路代理-1.png


审查和编辑状态:

人类可以审查和编辑图的状态。这对于纠正错误或用额外信息更新状态非常有用。
使用LangGraph中断构建人在回路代理-2.png


审查LLM调用的工具:

人类可以审查和编辑LLM之前的输出,然后再继续。这在LLM请求的工具调用可能是敏感的或需要人类监督的应用中特别关键。
使用LangGraph中断构建人在回路代理-3.png


多代理设置中的多轮对话:

使用LangGraph中断构建人在回路代理-4.png


多轮对话涉及代理和人类之间的多次来回交互,这可以让代理以对话的方式从人类那里收集额外的信息。这种设计模式在由多个代理组成的LLM应用中非常有用。一个或多个代理可能需要与人类进行多轮对话,人类在对话的不同阶段提供输入或反馈。为了简单起见,代理实现示例被描绘为单个节点,但实际上它可能是由多个节点组成的更大图的一部分,并包括一个条件边。
LangGraph公司正在构建LangGraph,使其成为人在回路交互模式的最佳代理框架。LangGraph认为interrupt使得这一点变得前所未有地容易。LangGraph已经更新了所有使用人在回路的例子,以使用这个新功能。
使用LangGraph中断构建人在回路代理-5.jpg






原文地址:https://blog.csdn.net/duan_zhihua/article/details/144601401
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

发布主题
阅读排行更多+

Powered by Discuz! X3.4© 2001-2013 Discuz Team.( 京ICP备17022993号-3 )