AI创想

标题: 【LangChain入门篇】LangChain的服务部署和访问 [打印本页]

作者: 茉雨雾 时间: 昨天 22:09
标题: 【LangChain入门篇】LangChain的服务部署和访问
作者：CSDN博客
一、构建LangServer

构建LangServer我们需要安装两个工具：langserve, langchain-cli

pip install -U "langserve[all]"
pip install -U langchain-cli

其中langchain-cli是我们构建serve的脚手架，langserve是rest的框架，通过它我们可以对外提供rest服务。
1、快速创建langserve项目

在命令行执行langchain或者langchain-cli，可以看到一些常用的命令：

(, 下载次数: 0)

我们执行如下命令进行项目创建：

langchain app new my-langserve-app

(, 下载次数: 0)

创建之后，项目框架如下：

(, 下载次数: 0)

默认add_routes是没有chain的，我们改造成如下代码：

原文地址：https://blog.csdn.net/zzu_dcx_zzu/article/details/147634427

欢迎光临 AI创想 (https://www.llms-ai.com/)