AI创想
标题:
langchain介绍
[打印本页]
作者:
kkkzxt
时间:
昨天 22:47
标题:
langchain介绍
作者：CSDN博客
文章目录
架构LangChain特性核心概念
架构
LangChain 是一个用于开发由大型语言模型 (LLMs) 驱动的应用程序的python框架。
LangChain 简化了 LLM 应用程序生命周期的每个阶段：
开发：使用 LangChain 的开源 构建模块、组件 和 第三方集成 构建您的应用程序。 使用 LangGraph
构建具有一流流式处理和人机协作支持的有状态代理。生产化：使用 LangSmith 检查、监控和评估您的链，以便您可以持续优化并自信地部署。部署：将您的 LangGraph 应用程序转变为生产就绪的 API 和助手，使用 LangGraph Cloud。
具体来说，该框架由以下开源库组成：
langchain-core: 基础抽象和LangChain表达式 (LCEL)。langchain-community: 第三方集成。合作伙伴库（例如
langchain-openai、langchain-anthropic 等）：一些集成已进一步拆分为自己的轻量级库，仅依赖于 langchain-core。langchain: 组成应用程序认知架构的链、代理和检索策略。LangGraph: 通过将步骤建模为图中的边和节点，构建强大且有状态的多参与者应用程序。与LangChain无缝集成，但也可以单独使用。LangServe: 将LangChain链部署为REST API。LangSmith: 一个开发者平台，让您调试、测试、评估和监控LLM应用程序。
LangChain特性
LLM和提示（Prompt）：LangChain对所有LLM大模型进行了API抽象，统一了大模型访问API.同时提供了Prompt提示模板管理机制链（Chain）：Langchain对一些常见的场景封装了一些现成的模块，例如：基于上下文信息的问答系统，自然语言生成SQL查询等等，因为实现这些任务的过程就像工作流一样，一步一步的执行，所以叫链（chain）。LCEL: LangChain Expression Language (LCEL），langchain新版本的核心特性，用于解决工作流编排问题，通过LCEL表达式，我们可以灵活的自定义AI任务处理流程，也就是灵活自定义链（Chain）。数据增强生成（RAG）：因为大模型（LLM）不了解新的信息，无法回答新的问题，所以我们可以将新的信息导入到LLM，用于增强LLM生成内容的质量，这种模式叫做RAG模式（RetrievalAugmented
Generation）。Agents：是一种基于大模型（LLM）的应用设计模式，利用LLM的自然语言理解和推理能力（LLM 作为大脑）），根据用户的需求自动调用外部系统、设备共同去完成任务，例如：用户输入“明天请假一天”，大模型（LLM）自动调用请假系统，发起一个请假申请模型记忆（memory）：让大模型（llm）记住之前的对话内容，这种能力成为模型记忆（memory）
核心概念
1.LLMs
LangChain封装的基础模型，模型接收一个文本输入，然后返回一个文本结果
2.Chat Models
聊天模型（或者称为对话模型），与LLMS不同，这些模型专为对话场景而设计。模型可以接收一组对话消息，然后返回对话消息，类似聊天消息一样
3.消息（Message）
指的是聊天模型（ChatModels）的消息内容，消息类型包括包括HumanMessage、AIMessage、SystemMessage、FunctionMessage和ToolMessage等多种类型的消息
4.提示（prompts）
LangChain封装了一组专门用于提示词（prompts）管理的工具类，方便我们格式化提示词（prompts）内容
5.输出解析器（OutputParsers）
如上图介绍Langchain接受大模型（LLM）返回的文本内容之后，可以使用专门的输出解析器对文本内容进行格式化，例如解析json、或者将llm输出的内容转成python对象
5.Retrievers
为方便我们将私有数据导入到大模型（LLM），提高模型回答问题的质量，LangChain封装了检索框架（Retrievers），方便我们加载文档数据、切割文档数据、存储和检索文档数据
6.向量存储（Vectorstores）
为支持私有数据的语义相似搜索，langchain支持多种向量数据库
7.Agents
智能体（Agents），通常指的是以大模型（LLM）作为决策引擎，根据用户输入的任务，自动调用外部系统、硬件设备共同完成用户的任务，是一种以大模型（LLM）为核心的应用设计模式。
原文地址：https://blog.csdn.net/SO_zxn/article/details/146238988
欢迎光临 AI创想 (https://www.llms-ai.com/)
Powered by Discuz! X3.4