开启左侧

langchain介绍

[复制链接]
kkkzxt 发表于 昨天 22:47 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题
作者:CSDN博客
文章目录

    架构LangChain特性核心概念

架构

LangChain 是一个用于开发由大型语言模型 (LLMs) 驱动的应用程序的python框架。
LangChain 简化了 LLM 应用程序生命周期的每个阶段:
    开发:使用 LangChain 的开源 构建模块、组件 和 第三方集成 构建您的应用程序。 使用 LangGraph
    构建具有一流流式处理和人机协作支持的有状态代理。生产化:使用 LangSmith 检查、监控和评估您的链,以便您可以持续优化并自信地部署。部署:将您的 LangGraph 应用程序转变为生产就绪的 API 和助手,使用 LangGraph Cloud。
具体来说,该框架由以下开源库组成:
    langchain-core: 基础抽象和LangChain表达式 (LCEL)。langchain-community: 第三方集成。合作伙伴库(例如
    langchain-openai、langchain-anthropic 等):一些集成已进一步拆分为自己的轻量级库,仅依赖于 langchain-core。langchain: 组成应用程序认知架构的链、代理和检索策略。LangGraph: 通过将步骤建模为图中的边和节点,构建强大且有状态的多参与者应用程序。与LangChain无缝集成,但也可以单独使用。LangServe: 将LangChain链部署为REST API。LangSmith: 一个开发者平台,让您调试、测试、评估和监控LLM应用程序。
LangChain特性

    LLM和提示(Prompt):LangChain对所有LLM大模型进行了API抽象,统一了大模型访问API.同时提供了Prompt提示模板管理机制链(Chain):Langchain对一些常见的场景封装了一些现成的模块,例如:基于上下文信息的问答系统,自然语言生成SQL查询等等,因为实现这些任务的过程就像工作流一样,一步一步的执行,所以叫链(chain)。LCEL: LangChain Expression Language (LCEL),langchain新版本的核心特性,用于解决工作流编排问题,通过LCEL表达式,我们可以灵活的自定义AI任务处理流程,也就是灵活自定义链(Chain)。数据增强生成(RAG):因为大模型(LLM)不了解新的信息,无法回答新的问题,所以我们可以将新的信息导入到LLM,用于增强LLM生成内容的质量,这种模式叫做RAG模式(RetrievalAugmented
    Generation)。Agents:是一种基于大模型(LLM)的应用设计模式,利用LLM的自然语言理解和推理能力(LLM 作为大脑)),根据用户的需求自动调用外部系统、设备共同去完成任务,例如:用户输入“明天请假一天”,大模型(LLM)自动调用请假系统,发起一个请假申请模型记忆(memory):让大模型(llm)记住之前的对话内容,这种能力成为模型记忆(memory)
核心概念

    1.LLMs
LangChain封装的基础模型,模型接收一个文本输入,然后返回一个文本结果
    2.Chat Models
聊天模型(或者称为对话模型),与LLMS不同,这些模型专为对话场景而设计。模型可以接收一组对话消息,然后返回对话消息,类似聊天消息一样
    3.消息(Message)
指的是聊天模型(ChatModels)的消息内容,消息类型包括包括HumanMessage、AIMessage、SystemMessage、FunctionMessage和ToolMessage等多种类型的消息
    4.提示(prompts)
LangChain封装了一组专门用于提示词(prompts)管理的工具类,方便我们格式化提示词(prompts)内容
    5.输出解析器(OutputParsers)
如上图介绍Langchain接受大模型(LLM)返回的文本内容之后,可以使用专门的输出解析器对文本内容进行格式化,例如解析json、或者将llm输出的内容转成python对象
    5.Retrievers
为方便我们将私有数据导入到大模型(LLM),提高模型回答问题的质量,LangChain封装了检索框架(Retrievers),方便我们加载文档数据、切割文档数据、存储和检索文档数据
    6.向量存储(Vectorstores)
为支持私有数据的语义相似搜索,langchain支持多种向量数据库
    7.Agents
智能体(Agents),通常指的是以大模型(LLM)作为决策引擎,根据用户输入的任务,自动调用外部系统、硬件设备共同完成用户的任务,是一种以大模型(LLM)为核心的应用设计模式。

原文地址:https://blog.csdn.net/SO_zxn/article/details/146238988
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注0

粉丝0

帖子1

发布主题
阅读排行更多+

Powered by Discuz! X3.4© 2001-2013 Discuz Team.( 京ICP备17022993号-3 )