
在使用langchain构建复杂链式应用时,尤其是在采用其强大的表达式语言(lcel)范式时,开发者常常需要查看链的内部运作,例如提示词的构建过程、模型调用参数以及中间结果。然而,旧有的langchain.globals.set_verbose(true)或在模型初始化时设置verbose=true的策略,在langchain 0.0.345及更高版本的lcel链中可能无法如预期般提供详细的中间输出。这主要是由于langchain api的演进,调试机制也随之更新。本教程将详细介绍当前版本langchain中激活中间步骤输出的推荐方法。
对于LCEL链,获取中间步骤输出最直接且推荐的方法是利用回调处理器(Callback Handlers),并在链的invoke或stream方法中进行配置。ConsoleCallbackHandler是一个非常实用的内置回调处理器,它能将链的执行事件(如开始、结束、错误、中间结果等)打印到控制台。
要实现这一点,您需要在调用链时,通过config参数传入一个包含ConsoleCallbackHandler实例的列表。
代码示例:
from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.schema.output_parser import StrOutputParser
from langchain.callbacks.tracers import ConsoleCallbackHandler # 导入回调处理器
# 定义链的组件
prompt = ChatPromptTemplate.from_template("讲一个关于{topic}的笑话")
model = ChatOpenAI()
output_parser = StrOutputParser()
# 构建LCEL链
chain = prompt | model | output_parser
# 调用链并配置ConsoleCallbackHandler以获取详细输出
chain.invoke(
{"topic": "冰淇淋"},
config={'callbacks': [ConsoleCallbackHandler()]}
)通过这种方式,当chain.invoke被执行时,ConsoleCallbackHandler会捕获并打印出链中各个组件的输入、输出以及其他重要的事件信息,从而帮助您追踪链的执行流程。虽然其输出格式可能与早期版本的“verbose模式”略有不同,但这无疑是当前获取类似详细日志的最佳实践。
在某些场景下,您可能只对链中特定组件(例如,仅对语言模型)的详细输出感兴趣,而不是整个链的日志。Langchain允许您将回调处理器附加到单个组件上,以实现更精细的调试控制。
这可以通过组件的.with_config()方法实现。
代码示例:
from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.schema.output_parser import StrOutputParser
from langchain.callbacks.tracers import ConsoleCallbackHandler
# 定义链的组件
prompt = ChatPromptTemplate.from_template("讲一个关于{topic}的笑话")
# 将ConsoleCallbackHandler附加到模型上,只追踪模型的活动
model = ChatOpenAI().with_config({'callbacks': [ConsoleCallbackHandler()]})
output_parser = StrOutputParser()
# 构建LCEL链
chain = prompt | model | output_parser
# 调用链,此时只有模型的活动会被ConsoleCallbackHandler打印
chain.invoke({"topic": "冰淇淋"})这种方法在调试复杂链中某个特定环节时尤其有用,可以避免日志信息过于庞杂,帮助您聚焦问题。
除了上述基于回调处理器的方法外,Langchain还提供了一个全局的调试模式,通过langchain.globals.set_debug(True)来激活。与set_verbose不同,set_debug通常会提供更高级别的、更底层的调试信息,并且它仍然适用于LCEL链。
当您需要深入了解Langchain内部更详细的执行逻辑时,set_debug(True)会非常有用。
代码示例:
from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.schema.output_parser import StrOutputParser
from langchain.globals import set_debug # 导入set_debug
# 激活全局调试模式
set_debug(True)
# 定义链的组件
prompt = ChatPromptTemplate.from_template("讲一个关于{topic}的笑话")
model = ChatOpenAI()
output_parser = StrOutputParser()
# 构建LCEL链
chain = prompt | model | output_parser
# 调用链,此时将输出全局调试信息
chain.invoke({"topic": "冰淇淋"})请注意,set_debug(True)可能会产生大量的输出,因此建议在需要详细诊断问题时使用,并在调试完成后将其关闭以避免不必要的日志干扰。
对于更复杂的Langchain应用,或者当您需要更直观地理解链的执行流程和性能瓶颈时,可视化调试工具是不可或缺的。Langchain生态系统集成了一些强大的外部工具,例如LangSmith和Weights & Biases。
这些工具通过提供丰富的UI界面,极大地简化了复杂链的调试和性能优化过程,是专业开发者的首选。
在Langchain中激活中间步骤输出和进行调试,关键在于理解其API的演进。以下是几点重要的总结和注意事项:
通过掌握这些调试技术,您将能够更有效地理解和优化您的Langchain LCEL应用,确保其稳定、高效地运行。
以上就是Langchain LCEL链调试:激活中间步骤输出的实用指南的详细内容,更多请关注php中文网其它相关文章!
Windows激活工具是正版认证的激活工具,永久激活,一键解决windows许可证即将过期。可激活win7系统、win8.1系统、win10系统、win11系统。下载后先看完视频激活教程,再进行操作,100%激活成功。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号