AI创想

标题: langchain—chatchat [打印本页]

---

作者: dengfangmian    时间: 9 小时前
标题: langchain—chatchat
作者：CSDN博客
署部

• 下载项目
  1. git clone --recursive https://github.com/chatchat-space/Langchain-Chatchat.git

  复制代码
• 进入目录
  1. cd Langchain-Chatchat

  复制代码
• anaconda环境准备
  
  
  • 创建python环境       
    1. conda create -n langchain_env python=3.10 -y

    复制代码
  • 激活环境       
    1. conda activate langchain_env

    复制代码
  • 验证pyhton环境       
    1. python --version

    复制代码
  
  
• 安装依赖
  1. pip install langchain-chatchat  -i   https://pypi.tuna.tsinghua.edu.cn/simple

  复制代码
  改变初始化生成的文件目录
  
  1. export CHATCHAT_ROOT=自定义目录

  复制代码
  初始化
  
  1. chatchat init

  复制代码
• 验证
  1. #API文档
  2. http://localhost:7861/docs
  3. #langchat-chatcat url
  4. http://localhost:8501/

  复制代码
• 获取langchain-chatchat下载
  1. curl https://github.com/chatchat-space/Langchain-Chatchat

  复制代码
  或
  1. https://gitee.com/www.ydj.com/Langchain-Chatchat

  复制代码
  或
  

配置

.py版本

ollama模型配置

1. vim /langchain-chatchat/configs/model_config.py

复制代码

配置大语言模型和嵌入模型名

(, 下载次数: 0)
上传
点击文件名下载附件


• 配置ollama服务
  1. ONLINE_LLM_MODEL = {
  2. # 加入Ollama
  4. "ollama":{
  5.         "model_name":"qwq",
  6.         "api_base_url":"http://58.144.197.135:15003/",
  7.     }
  8. }

  复制代码

.yaml

ollama模型配置

默认用户目录下修改 model_setting.yaml

(, 下载次数: 0)
上传
点击文件名下载附件


(, 下载次数: 0)
上传
点击文件名下载附件


(, 下载次数: 0)
上传
点击文件名下载附件

可选

(, 下载次数: 0)
上传
点击文件名下载附件


• 运行
  1. chatchat kb -r

  复制代码
• 启动
  1. chatchat  start -a

  复制代码

报错

RAG

• 更换httpx版本
  1. // 卸载旧版本 0.28.1
  2. pip uninstall httpx
  4. // 安装新版本 0.27.2
  5. pip install httpx==0.27.2

  复制代码
• 重启
  1. // 重新启动
  2. chatchat start -a

  复制代码

原文地址：https://blog.csdn.net/m0_70834380/article/details/147815405

---

欢迎光临 AI创想 (https://www.llms-ai.com/)

Powered by Discuz! X3.4